[{"data":1,"prerenderedAt":-1},["ShallowReactive",2],{"skill:01M699QP0EVCQ3FSS92T6FY8W5":3,"skill-same:01M699QP0EVCQ3FSS92T6FY8W5":49},{"skillNo":4,"name":5,"nameZh":6,"description":6,"descriptionZh":6,"repositoryFullName":7,"ownerLogin":8,"ownerAvatarUrl":9,"ownerAccountNo":10,"ownerDisplayName":11,"repositoryNo":12,"starsCount":13,"licenseSpdxId":14,"licenseFileUrl":6,"sourceHtmlUrl":15,"categories":16,"keywords":17,"publishedAt":20,"linkOnly":21,"markdownContent":22,"markdownBody":23,"frontMatter":24,"refName":25,"commitSha":26,"skillDirectory":27,"forksCount":28,"repositoryHtmlUrl":29,"repositoryHomepageUrl":30,"ownerHtmlUrl":31,"ownerBlogUrl":32,"ownerDescription":33,"updatedAt":34,"install":35,"resources":48},"01M699QP0EVCQ3FSS92T6FY8W5","local-ai-agents",null,"microsoft\u002Fai-agents-for-beginners","microsoft","https:\u002F\u002Favatars.githubusercontent.com\u002Fu\u002F6154722?v=4","01M698VYDXZ6JW5WH3CRV650R8","Microsoft","01M6998ZK2275KMJE6Y5SEA2X2",79423,"MIT","https:\u002F\u002Fgithub.com\u002Fmicrosoft\u002Fai-agents-for-beginners\u002Fblob\u002Fmain\u002Ftranslations\u002Fpa\u002F.agents\u002Fskills\u002Flocal-ai-agents\u002FSKILL.md",[],[18,19],"ai agents","local ai agents","2026-11-10 10:12:30",false,"---\nname: local-ai-agents\nlicense: MIT\n---\n# Foundry Local ਅਤੇ Qwen ਨਾਲ ਲੋਕਲ ਏਆਈ ਏਜੰਟ ਬਣਾਉਣਾ\n\n> [ਪਾਠ 17 – ਲੋਕਲ ਏਆਈ ਏਜੰਟ ਬਣਾਉਣਾ](..\u002F..\u002F..\u002F17-creating-local-ai-agents\u002FREADME.md) ਲਈ ਸਾਥੀ ਦੱਖਲ ਕੌਸ਼ਲ।\n> ਇਸ ਨੂੰ ਇਸ ਲਈ ਵਰਤੋ ਕਿ ਇੱਕ ਸਿੱਖਣ ਵਾਲੇ ਨੂੰ ਇੱਕ ਏਜੰਟ ਬਣਾਉਣ ਵਿੱਚ ਮਦਦ ਮਿਲੇ ਜੋ\n> ਸੋਚਦਾ ਹੈ, ਟੂਲਜ਼ ਨੂੰ ਕਾਲ ਕਰਦਾ ਹੈ, ਅਤੇ ਡੌਕਯੂਮੈਂਟੇਸ਼ਨ ਸਿਰਫ਼ ਆਪਣੇ ਮਨੁੱਖੀ ਮਸ਼ੀਨ 'ਤੇ ਖੋਜਦਾ ਹੈ — ਕੋਈ ਕਲਾਊਡ ਇਨਫਰੈਂਸ ਨਹੀਂ। ਹਰ\n> ਸਿਫਾਰਸ਼ ਨੂੰ ਪਾਠ ਸਮੱਗਰੀ ਅਤੇ ਚਲਾਏ ਜਾ ਸਕਦੇ ਨੋਟਬੁੱਕ ਵਿੱਚ ਬੇਹਤਰੀਨ ਢੰਗ ਨਾਲ ਜਮ੍ਹਾਂ ਕਰੋ।\n\n## ਟ੍ਰਿਗਰਜ਼\n\nਜਦੋਂ ਇੱਕ ਸਿੱਖਣ ਵਾਲਾ ਚਾਹੁੰਦਾ ਹੈ ਤਾਂ ਇਸ ਕੌਸ਼ਲ ਨੂੰ ਸਰਗਰਮ ਕਰੋ:\n- ਪ੍ਰਾਈਵੇਸੀ, ਖ਼ਰਚਾ ਜਾਂ ਆਫਲਾਈਨ ਕਾਰਨਾਂ ਲਈ ਏਜੰਟ ਨੂੰ **ਪੂਰੀ ਤਰ੍ਹਾਂ ਡਿਵਾਈਸ 'ਤੇ ਚਲਾਓ**।\n- **Foundry Local** ਨਾਲ ਮਾਡਲ ਸਥਾਨਕ ਤੌਰ ਤੇ ਸਰਵ ਕਰੋ ਅਤੇ OpenAI-ਅਨੁਕੂਲ ਐਂਡਪॉਇੰਟ ਰਾਹੀਂ ਜੁੜੋ।\n- ਭਰੋਸੇਯੋਗ ਸਥਾਨਕ ਟੂਲ ਕਾਲ ਲਈ **Qwen ਫੰਕਸ਼ਨ-ਕਾਲਿੰਗ** ਮਾਡਲ ਦੀ ਵਰਤੋਂ ਕਰੋ।\n- **ਲੋਕਲ RAG** (Chroma) ਜਾਂ ਇੱਕ **ਲੋਕਲ MCP ਸਰਵਰ** ਸ਼ਾਮਲ ਕਰੋ।\n- **ਹਾਈਬ੍ਰਿਡ** ਲੋਕਲ\u002Fਕਲਾਊਡ ਰੂਟਿੰਗ रणनीਤੀ ਡਿਜ਼ਾਇਨ ਕਰੋ।\n\n## ਮੁੱਖ ਮਾਨਸਿਕ ਮਾਡਲ\n\nਇੱਕ SLM ਗੋਪਨੀਯਤਾ, ਖ਼ਰਚ ਅਤੇ ਆਫਲਾਈਨ ਚਾਲੂਹਾਲ ਲਈ ਵਿਸ਼ਾਲਤਾ ਨੂੰ ਤਿਆਗਦਾ ਹੈ। ਜਿੱਤਦਾ\nਰਣਨੀਤੀ: **SLM ਨੂੰ ਅਧਿਨਯਤਰ ਬਣਾਓ ਅਤੇ ਟੂਲਜ਼ ਨੂੰ ਭਾਰੀ ਕੰਮ ਕਰਨ ਦਿਓ।** ਮਾਡਲ ਨੂੰ ਕੋਡਬੇਸ *ਜਾਣਨ* ਦੀ ਲੋੜ ਨਹੀਂ — ਇਸ ਨੂੰ ਇਹ ਜਾਣਨਾ ਚਾਹੀਦਾ ਹੈ ਕਿ ਕਦੋਂ\n`read_file` ਅਤੇ `search_docs` ਨੂੰ ਕਾਲ ਕਰਨਾ ਹੈ। ਇਹ SLM ਦੀ ਮਜ਼ਬੂਤੀ ਨੂੰ ਖੇਡਦਾ ਹੈ (ਸੀਮਿਤ ਫੈਸਲੇ\nਜਿਵੇਂ ਕਿ ਟੂਲ ਚੋਣ) ਅਤੇ ਇਸ ਦੀ ਕਮਜ਼ੋਰੀ ਤੋਂ ਦੂਰ ਰਹਿੰਦਾ ਹੈ (ਵਿਆਪਕ ਗਿਆਨ, ਲੰਮੀ ਕਈ ਕਦਮੀ\nਤਰਕਸ਼ੀਲਤਾ)।\n\n\n## ਇਹ ਵਿਸ਼ੇਸ਼ ਹਿੱਸੇ ਕਿਉਂ\n\n- **Foundry Local** ਇੱਕ **OpenAI-ਅਨੁਕੂਲ HTTP ਐਂਡਪॉਇੰਟ** ਨੂੰ ਬਾਹਰ ਲੈ ਕੇ ਆਉਂਦਾ ਹੈ, ਇਸ ਲਈ ਕਲਾਊਡ ਏਜੰਟ ਕੋਡ ਸਿਰਫ `base_url` ਬਦਲ ਕੇ (ਅਤੇ ਇੱਕ ਸਥਾਨਕ ਨਮੂਨਾ API ਕੁੰਜੀ ਵਰਤ ਕੇ) ਟ੍ਰਾਂਸਫਰ ਹੁੰਦਾ ਹੈ। ਇਹ ਮਸ਼ੀਨ ਲਈ ਸਭ ਤੋਂ ਚੰਗਾ ਬਿਲਡ (CPU\u002FGPU\u002FNPU) ਆਪਣੇ ਆਪ ਚੁਣਦਾ ਹੈ।\n- **Qwen** ਮਾਡਲ ਫੰਕਸ਼ਨ ਕਾਲਿੰਗ ਲਈ ਤਿਆਰ ਕੀਤੇ ਜਾਂਦੇ ਹਨ ਅਤੇ ਹਰ ਵਾਰ ਚੰਗੇ ਤਰੀਕੇ ਨਾਲ ਟੂਲ ਕਾਲਾਂ ਜਾਰੀ ਕਰਦੇ ਹਨ — ਇਹ ਸਥਾਨਕ *ਚੈਟ* ਮਾਡਲ ਨੂੰ ਸਥਾਨਕ *ਏਜੰਟ* ਬਣਾਉਂਦਾ ਹੈ।\n- **Chroma** ਪ੍ਰੋਸੈਸ ਵਿੱਚ ਦੌੜਦਾ ਹੈ ਅਤੇ ਵੈਕਟਰਾਂ ਨੂੰ ਡਿਸਕ 'ਤੇ ਸਟੋਰ ਕਰਦਾ ਹੈ, ਇਸ ਲਈ ਸਾਰੀ RAG ਪਾਈਪਲਾਈਨ (ਇੰਬੈਡ → ਸਟੋਰ → ਰੀਟਰੀਵ → ਤਰਕ) ਸਥਾਨਕ ਰਹਿੰਦੀ ਹੈ।\n- **MCP** ਇੱਕ ਟ੍ਰਾਂਸਪੋਰਟ ਹੈ, ਬਦਲੇ ਵਿੱਚ ਕੋਈ ਕਲਾਉਡ ਸੇਵਾ ਨਹੀਂ: ਇੱਕ MCP ਸਰਵਰ ਨੂੰ ਸਥਾਨਕ ਤੌਰ ਤੇ `stdio` ਉੱਤੇ ਚਲਾਇਆ ਜਾ ਸਕਦਾ ਹੈ।\n\n## ਸੈਟਅਪ ਜਰੂਰੀਆਂ\n\n```bash\nfoundry model run qwen2.5-7b-instruct\nfoundry service status\n```\n\n```python\nfrom foundry_local import FoundryLocalManager\nfrom openai import OpenAI\n\nmanager = FoundryLocalManager(\"qwen2.5-7b-instruct\")\nclient = OpenAI(base_url=manager.endpoint, api_key=manager.api_key)  # local placeholder\n```\n\n~8 GB RAM ਇੱਕ ਹਕੀਕੀ ਘੱਟੋ-ਘੱਟ ਹੈ; ਇੱਕ GPU\u002FNPU ਮਦਦਗਾਰ ਹੈ ਪਰ ਲਾਜ਼ਮੀ ਨਹੀਂ।\n\n## ਮੁੱਖ ਪੈਟਰਨ ਜੋ ਦੁਹਰਾਏ ਜਾਣ\n\nਵਿਦਿਆਰਥੀ ਨੂੰ ਨੋਟਬੁੱਕ ਵੱਲ ਇਸ਼ਾਰਾ ਕਰੋ\n[`17-local-agent-foundry-local.ipynb`](..\u002F..\u002F..\u002F17-creating-local-ai-agents\u002Fcode_samples\u002F17-local-agent-foundry-local.ipynb):\n\n- **ਸੈਂਡਬੌਕਸਡ ਟੂਲਜ਼**: ਹਰ ਫਾਇਲ ਟੂਲ ਰਾਹਾਂ ਨੂੰ ਸੈੱਟ ਕਰਦਾ ਹੈ ਅਤੇ ਇੱਕੋ ਪ੍ਰੋਜੈਕਟ ਰੂਟ ਤੋਂ ਬਾਹਰ ਕੁਝ ਵੀ ਮਨਜ਼ੂਰ ਨਹੀਂ ਕਰਦਾ — ਇੱਥੇ ਤਕ ਕਿ ਸਥਾਨਕ ਤੌਰ ਤੇ ਵੀ, ਇੱਕ ਟੂਲ ਯੂਜ਼ਰ ਦੀਆਂ ਪਰਮਿਸ਼ਨਾਂ ਨਾਲ ਚੱਲਦਾ ਹੈ।\n- **ਟੂਲ-ਕਾਲਿੰਗ ਲੂਪ**: OpenAI ਟੂਲਜ਼ ਸਕੀਮਾ ਨਾਲ ਟੂਲਜ਼ ਨੂੰ ਰਜਿਸਟਰ ਕਰੋ, ਮੰਗਿਆ ਟੂਲ ਸਥਾਨਕ ਤੌਰ ਤੇ ਚਲਾਓ, ਨਤੀਜੇ ਵਾਪਸ ਭੇਜੋ, ਆਖਰੀ ਜਵਾਬ ਤੱਕ ਦੁਹਰਾਓ।\n- **ਲੋਕਲ RAG**: ਦਸਤਾਵੇਜ਼ਾਂ ਨੂੰ ਇੱਕ Chroma ਕਲੇਕਸ਼ਨ ਵਿੱਚ ਅਪਸਰਟ ਕਰੋ; `search_docs` ਸਭ ਤੋਂ ਉੱਚੇ-K ਚੰਕਸ ਵਾਪਸ ਕਰਦਾ ਹੈ।\n- **ਲੋਕਲ MCP**: ਸਥਾਨਕ ਸਰਵਰ ਨਾਲ `stdio` ਉੱਤੇ ਜੁੜੋ; ਇੱਕ ਪ੍ਰੋਜੈਕਟ ਡਾਇਰੈਕਟਰੀ ਲਈ ਇਸਦਾ ਸਕੋਪ ਸੈੱਟ ਕਰੋ ਅਤੇ ਇਸਦੇ ਨਤੀਜਿਆਂ ਦੀ ਜਾਂਚ ਕਰੋ।\n\n## ਹਾਈਬ੍ਰਿਡ ਰੂਟਿੰਗ (ਮਾਡਲਾਂ ਵਿੱਚੋਂ ਇੱਕ ਵਜੋਂ ਸਥਾਨਕ)\n\n| ਸਥਿਤੀ | ਇਸਦੀ ਚਲਣ ਵਾਲੀ ਥਾਂ |\n|-----------|---------------|\n| ਸੰਵੇਦਨਸ਼ੀਲ ਡੇਟਾ \u002F ਆਫਲਾਈਨ | ਸਥਾਨਕ SLM |\n| ਸੌਖਾ, ਸੀਮਿਤ ਕੰਮ | ਸਥਾਨਕ SLM (ਸਸਤਾ, ਤੇਜ਼) |\n| ਗੈਰ-ਸਨਵੇਦਨਸ਼ੀਲ ਡੇਟਾ ‘ਤੇ ਮੁਸ਼ਕਲ ਮਲਟੀ-ਹੌਪ ਤਰਕ | ਕਲਾਉਡ ਮਾਡਲ |\n| ਕਲਾਉਡ ਬੰਦ | ਸਥਾਨਕ SLM (ਸੁਕੂਨਦਾਇਕ ਢੰਗ ਨਾਲ ਘਟਾਓ) |\n\nਇਹ ਮਾਡਲ-ਰੂਟਿੰਗ ਦਾ ਵਿਚਾਰ ਪਾਠ 16 ਤੋਂ ਮਿਲਦਾ ਹੈ, ਜਿਸ ਵਿੱਚ ਵਰਕਸਟੇਸ਼ਨ ਇੱਕ ਰੂਟ ਵਜੋਂ ਹੈ।\nਉਹ ਡਿਜ਼ਾਈਨਾਂ ਪਸੰਦ ਕਰੋ ਜੋ ਸਥਾਨਕ ਵੱਲ ਵਾਪਸ ਆਉਂਦੀਆਂ ਹਨ ਤਾਂ ਜੋ ਏਜੰਟ ਕੁਆਲਟੀ ਵਿੱਚ ਘਟਾਓ ਅਨੁਭਵ ਕਰੇ, ਸਿੱਧਾ ਨਾਕਾਮ ਨਾ ਹੋਵੇ।\n\n\n## ਸਹਾਇਕ ਲਈ ਗਾਰਡਰੇਲਜ਼\n\n- ਹਰ ਫਾਇਲ\u002Fਟੂਲ ਆਪਰੇਸ਼ਨ ਨੂੰ ਇੱਕ ਸੰਡਬੌਕਸਡ ਪ੍ਰੋਜੈਕਟ ਡਾਇਰੈਕਟਰੀ ਤੱਕ ਸੀਮਿਤ ਰੱਖੋ।\n- ਜਦੋਂ ਵਿਦਿਆਰਥੀ ਦਾ ਘੋਸ਼ਿਤ ਟੀਚਾ ਪ੍ਰਾਈਵੇਸੀ\u002Fਆਫਲਾਈਨ ਹੈ, ਤਾਂ ਕੋਡ ਜਾਂ ਡੇਟਾ ਕਲਾਉਡ ਵਿੱਚ ਨਾ ਭੇਜੋ — ਸਾਰਾ ਪਾਈਪਲਾਈਨ ਸਥਾਨਕ ਰੱਖੋ।\n- SLM ਕੁਆਲਟੀ ਲਈ ਹਕੀਕੀ ਉਮੀਦਾਂ ਰੱਖੋ; ਮਾਡਲ ਦੀ ਯਾਦਸ਼ ਦਿਓਲਤ ਦੀ ਬਜਾਇ ਟੂਲਜ਼ ਅਤੇ RAG 'ਤੇ ਨਿਰਭਰ ਰਹੋ।\n- ਧਿਆਨ ਕਰੋ ਕਿ ਪਾਠ 17 ਵਿੱਚ **ਕੋਈ** Foundry Responses ਐਂਡਪੌਇੰਟ ਨਹੀਂ ਹੈ, ਇਸ ਲਈ ਕਲਾਉਡ ਸਮੋੱਕ-ਟੈਸਟ ਕਾਰਵਾਈ ਲਾਗੂ ਨਹੀਂ ਹੁੰਦੀ — ਨੋਟਬੁੱਕ ਨੂੰ ਸਥਾਨਕ ਤੌਰ ਤੇ ਚਲਾ ਕੇ ਵੈਰੀਫਾਈ ਕਰੋ।\n\n---\n\n\u003C!-- CO-OP TRANSLATOR DISCLAIMER START -->\n**ਅਸਵੀਕਾਰੋਪਣ**:\nਇਸ ਦਸਤਾਵੇਜ਼ ਦਾ ਅਨੁਵਾਦ ਏਆਈ ਅਨੁਵਾਦ ਸੇਵਾ [Co-op Translator](https:\u002F\u002Fgithub.com\u002FAzure\u002Fco-op-translator) ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਕੀਤਾ ਗਿਆ ਹੈ। ਜਦੋਂ ਕਿ ਅਸੀਂ ਸਹੀਤਾਵਾਂ ਲਈ ਯਤਨਸ਼ੀਲ ਹਾਂ, ਕਿਰਪਾ ਕਰਕੇ ਧਿਆਨ ਰੱਖੋ ਕਿ ਸਵੈਚਾਲਿਤ ਅਨੁਵਾਦਾਂ ਵਿੱਚ ਗਲਤੀਆਂ ਜਾਂ ਅਸਮੱਤਿਆਵਾਂ ਹੋ ਸਕਦੀਆਂ ਹਨ। ਮੂਲ ਦਸਤਾਵੇਜ਼ ਆਪਣੀ ਮੂਲ ਭਾਸ਼ਾ ਵਿੱਚ ਅਧਿਕਾਰਕ ਸਰੋਤ ਮੰਨਿਆ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ। ਜਰੂਰੀ ਜਾਣਕਾਰੀ ਲਈ, ਪੇਸ਼ੇਵਰ ਮਨੁੱਖੀ ਅਨੁਵਾਦ ਦੀ ਸਿਫ਼ਾਰਸ਼ ਕੀਤੀ ਜਾਂਦੀ ਹੈ। ਅਸੀਂ ਇਸ ਅਨੁਵਾਦ ਦੇ ਉਪਯੋਗ ਤੋਂ ਪੈਦਾ ਹੋਣ ਵਾਲੀਆਂ ਕਿਸੇ ਵੀ ਗਲਤਫਹਿਮੀਆਂ ਜਾਂ ਗਲਤ ਵਿਆਖਿਆਵਾਂ ਲਈ ਜਵਾਬਦੇਹ ਨਹੀਂ ਹਾਂ।\n\u003C!-- CO-OP TRANSLATOR DISCLAIMER END -->","# Foundry Local ਅਤੇ Qwen ਨਾਲ ਲੋਕਲ ਏਆਈ ਏਜੰਟ ਬਣਾਉਣਾ\n\n> [ਪਾਠ 17 – ਲੋਕਲ ਏਆਈ ਏਜੰਟ ਬਣਾਉਣਾ](..\u002F..\u002F..\u002F17-creating-local-ai-agents\u002FREADME.md) ਲਈ ਸਾਥੀ ਦੱਖਲ ਕੌਸ਼ਲ।\n> ਇਸ ਨੂੰ ਇਸ ਲਈ ਵਰਤੋ ਕਿ ਇੱਕ ਸਿੱਖਣ ਵਾਲੇ ਨੂੰ ਇੱਕ ਏਜੰਟ ਬਣਾਉਣ ਵਿੱਚ ਮਦਦ ਮਿਲੇ ਜੋ\n> ਸੋਚਦਾ ਹੈ, ਟੂਲਜ਼ ਨੂੰ ਕਾਲ ਕਰਦਾ ਹੈ, ਅਤੇ ਡੌਕਯੂਮੈਂਟੇਸ਼ਨ ਸਿਰਫ਼ ਆਪਣੇ ਮਨੁੱਖੀ ਮਸ਼ੀਨ 'ਤੇ ਖੋਜਦਾ ਹੈ — ਕੋਈ ਕਲਾਊਡ ਇਨਫਰੈਂਸ ਨਹੀਂ। ਹਰ\n> ਸਿਫਾਰਸ਼ ਨੂੰ ਪਾਠ ਸਮੱਗਰੀ ਅਤੇ ਚਲਾਏ ਜਾ ਸਕਦੇ ਨੋਟਬੁੱਕ ਵਿੱਚ ਬੇਹਤਰੀਨ ਢੰਗ ਨਾਲ ਜਮ੍ਹਾਂ ਕਰੋ।\n\n## ਟ੍ਰਿਗਰਜ਼\n\nਜਦੋਂ ਇੱਕ ਸਿੱਖਣ ਵਾਲਾ ਚਾਹੁੰਦਾ ਹੈ ਤਾਂ ਇਸ ਕੌਸ਼ਲ ਨੂੰ ਸਰਗਰਮ ਕਰੋ:\n- ਪ੍ਰਾਈਵੇਸੀ, ਖ਼ਰਚਾ ਜਾਂ ਆਫਲਾਈਨ ਕਾਰਨਾਂ ਲਈ ਏਜੰਟ ਨੂੰ **ਪੂਰੀ ਤਰ੍ਹਾਂ ਡਿਵਾਈਸ 'ਤੇ ਚਲਾਓ**।\n- **Foundry Local** ਨਾਲ ਮਾਡਲ ਸਥਾਨਕ ਤੌਰ ਤੇ ਸਰਵ ਕਰੋ ਅਤੇ OpenAI-ਅਨੁਕੂਲ ਐਂਡਪॉਇੰਟ ਰਾਹੀਂ ਜੁੜੋ।\n- ਭਰੋਸੇਯੋਗ ਸਥਾਨਕ ਟੂਲ ਕਾਲ ਲਈ **Qwen ਫੰਕਸ਼ਨ-ਕਾਲਿੰਗ** ਮਾਡਲ ਦੀ ਵਰਤੋਂ ਕਰੋ।\n- **ਲੋਕਲ RAG** (Chroma) ਜਾਂ ਇੱਕ **ਲੋਕਲ MCP ਸਰਵਰ** ਸ਼ਾਮਲ ਕਰੋ।\n- **ਹਾਈਬ੍ਰਿਡ** ਲੋਕਲ\u002Fਕਲਾਊਡ ਰੂਟਿੰਗ रणनीਤੀ ਡਿਜ਼ਾਇਨ ਕਰੋ।\n\n## ਮੁੱਖ ਮਾਨਸਿਕ ਮਾਡਲ\n\nਇੱਕ SLM ਗੋਪਨੀਯਤਾ, ਖ਼ਰਚ ਅਤੇ ਆਫਲਾਈਨ ਚਾਲੂਹਾਲ ਲਈ ਵਿਸ਼ਾਲਤਾ ਨੂੰ ਤਿਆਗਦਾ ਹੈ। ਜਿੱਤਦਾ\nਰਣਨੀਤੀ: **SLM ਨੂੰ ਅਧਿਨਯਤਰ ਬਣਾਓ ਅਤੇ ਟੂਲਜ਼ ਨੂੰ ਭਾਰੀ ਕੰਮ ਕਰਨ ਦਿਓ।** ਮਾਡਲ ਨੂੰ ਕੋਡਬੇਸ *ਜਾਣਨ* ਦੀ ਲੋੜ ਨਹੀਂ — ਇਸ ਨੂੰ ਇਹ ਜਾਣਨਾ ਚਾਹੀਦਾ ਹੈ ਕਿ ਕਦੋਂ\n`read_file` ਅਤੇ `search_docs` ਨੂੰ ਕਾਲ ਕਰਨਾ ਹੈ। ਇਹ SLM ਦੀ ਮਜ਼ਬੂਤੀ ਨੂੰ ਖੇਡਦਾ ਹੈ (ਸੀਮਿਤ ਫੈਸਲੇ\nਜਿਵੇਂ ਕਿ ਟੂਲ ਚੋਣ) ਅਤੇ ਇਸ ਦੀ ਕਮਜ਼ੋਰੀ ਤੋਂ ਦੂਰ ਰਹਿੰਦਾ ਹੈ (ਵਿਆਪਕ ਗਿਆਨ, ਲੰਮੀ ਕਈ ਕਦਮੀ\nਤਰਕਸ਼ੀਲਤਾ)।\n\n\n## ਇਹ ਵਿਸ਼ੇਸ਼ ਹਿੱਸੇ ਕਿਉਂ\n\n- **Foundry Local** ਇੱਕ **OpenAI-ਅਨੁਕੂਲ HTTP ਐਂਡਪॉਇੰਟ** ਨੂੰ ਬਾਹਰ ਲੈ ਕੇ ਆਉਂਦਾ ਹੈ, ਇਸ ਲਈ ਕਲਾਊਡ ਏਜੰਟ ਕੋਡ ਸਿਰਫ `base_url` ਬਦਲ ਕੇ (ਅਤੇ ਇੱਕ ਸਥਾਨਕ ਨਮੂਨਾ API ਕੁੰਜੀ ਵਰਤ ਕੇ) ਟ੍ਰਾਂਸਫਰ ਹੁੰਦਾ ਹੈ। ਇਹ ਮਸ਼ੀਨ ਲਈ ਸਭ ਤੋਂ ਚੰਗਾ ਬਿਲਡ (CPU\u002FGPU\u002FNPU) ਆਪਣੇ ਆਪ ਚੁਣਦਾ ਹੈ।\n- **Qwen** ਮਾਡਲ ਫੰਕਸ਼ਨ ਕਾਲਿੰਗ ਲਈ ਤਿਆਰ ਕੀਤੇ ਜਾਂਦੇ ਹਨ ਅਤੇ ਹਰ ਵਾਰ ਚੰਗੇ ਤਰੀਕੇ ਨਾਲ ਟੂਲ ਕਾਲਾਂ ਜਾਰੀ ਕਰਦੇ ਹਨ — ਇਹ ਸਥਾਨਕ *ਚੈਟ* ਮਾਡਲ ਨੂੰ ਸਥਾਨਕ *ਏਜੰਟ* ਬਣਾਉਂਦਾ ਹੈ।\n- **Chroma** ਪ੍ਰੋਸੈਸ ਵਿੱਚ ਦੌੜਦਾ ਹੈ ਅਤੇ ਵੈਕਟਰਾਂ ਨੂੰ ਡਿਸਕ 'ਤੇ ਸਟੋਰ ਕਰਦਾ ਹੈ, ਇਸ ਲਈ ਸਾਰੀ RAG ਪਾਈਪਲਾਈਨ (ਇੰਬੈਡ → ਸਟੋਰ → ਰੀਟਰੀਵ → ਤਰਕ) ਸਥਾਨਕ ਰਹਿੰਦੀ ਹੈ।\n- **MCP** ਇੱਕ ਟ੍ਰਾਂਸਪੋਰਟ ਹੈ, ਬਦਲੇ ਵਿੱਚ ਕੋਈ ਕਲਾਉਡ ਸੇਵਾ ਨਹੀਂ: ਇੱਕ MCP ਸਰਵਰ ਨੂੰ ਸਥਾਨਕ ਤੌਰ ਤੇ `stdio` ਉੱਤੇ ਚਲਾਇਆ ਜਾ ਸਕਦਾ ਹੈ।\n\n## ਸੈਟਅਪ ਜਰੂਰੀਆਂ\n\n```bash\nfoundry model run qwen2.5-7b-instruct\nfoundry service status\n```\n\n```python\nfrom foundry_local import FoundryLocalManager\nfrom openai import OpenAI\n\nmanager = FoundryLocalManager(\"qwen2.5-7b-instruct\")\nclient = OpenAI(base_url=manager.endpoint, api_key=manager.api_key)  # local placeholder\n```\n\n~8 GB RAM ਇੱਕ ਹਕੀਕੀ ਘੱਟੋ-ਘੱਟ ਹੈ; ਇੱਕ GPU\u002FNPU ਮਦਦਗਾਰ ਹੈ ਪਰ ਲਾਜ਼ਮੀ ਨਹੀਂ।\n\n## ਮੁੱਖ ਪੈਟਰਨ ਜੋ ਦੁਹਰਾਏ ਜਾਣ\n\nਵਿਦਿਆਰਥੀ ਨੂੰ ਨੋਟਬੁੱਕ ਵੱਲ ਇਸ਼ਾਰਾ ਕਰੋ\n[`17-local-agent-foundry-local.ipynb`](..\u002F..\u002F..\u002F17-creating-local-ai-agents\u002Fcode_samples\u002F17-local-agent-foundry-local.ipynb):\n\n- **ਸੈਂਡਬੌਕਸਡ ਟੂਲਜ਼**: ਹਰ ਫਾਇਲ ਟੂਲ ਰਾਹਾਂ ਨੂੰ ਸੈੱਟ ਕਰਦਾ ਹੈ ਅਤੇ ਇੱਕੋ ਪ੍ਰੋਜੈਕਟ ਰੂਟ ਤੋਂ ਬਾਹਰ ਕੁਝ ਵੀ ਮਨਜ਼ੂਰ ਨਹੀਂ ਕਰਦਾ — ਇੱਥੇ ਤਕ ਕਿ ਸਥਾਨਕ ਤੌਰ ਤੇ ਵੀ, ਇੱਕ ਟੂਲ ਯੂਜ਼ਰ ਦੀਆਂ ਪਰਮਿਸ਼ਨਾਂ ਨਾਲ ਚੱਲਦਾ ਹੈ।\n- **ਟੂਲ-ਕਾਲਿੰਗ ਲੂਪ**: OpenAI ਟੂਲਜ਼ ਸਕੀਮਾ ਨਾਲ ਟੂਲਜ਼ ਨੂੰ ਰਜਿਸਟਰ ਕਰੋ, ਮੰਗਿਆ ਟੂਲ ਸਥਾਨਕ ਤੌਰ ਤੇ ਚਲਾਓ, ਨਤੀਜੇ ਵਾਪਸ ਭੇਜੋ, ਆਖਰੀ ਜਵਾਬ ਤੱਕ ਦੁਹਰਾਓ।\n- **ਲੋਕਲ RAG**: ਦਸਤਾਵੇਜ਼ਾਂ ਨੂੰ ਇੱਕ Chroma ਕਲੇਕਸ਼ਨ ਵਿੱਚ ਅਪਸਰਟ ਕਰੋ; `search_docs` ਸਭ ਤੋਂ ਉੱਚੇ-K ਚੰਕਸ ਵਾਪਸ ਕਰਦਾ ਹੈ।\n- **ਲੋਕਲ MCP**: ਸਥਾਨਕ ਸਰਵਰ ਨਾਲ `stdio` ਉੱਤੇ ਜੁੜੋ; ਇੱਕ ਪ੍ਰੋਜੈਕਟ ਡਾਇਰੈਕਟਰੀ ਲਈ ਇਸਦਾ ਸਕੋਪ ਸੈੱਟ ਕਰੋ ਅਤੇ ਇਸਦੇ ਨਤੀਜਿਆਂ ਦੀ ਜਾਂਚ ਕਰੋ।\n\n## ਹਾਈਬ੍ਰਿਡ ਰੂਟਿੰਗ (ਮਾਡਲਾਂ ਵਿੱਚੋਂ ਇੱਕ ਵਜੋਂ ਸਥਾਨਕ)\n\n| ਸਥਿਤੀ | ਇਸਦੀ ਚਲਣ ਵਾਲੀ ਥਾਂ |\n|-----------|---------------|\n| ਸੰਵੇਦਨਸ਼ੀਲ ਡੇਟਾ \u002F ਆਫਲਾਈਨ | ਸਥਾਨਕ SLM |\n| ਸੌਖਾ, ਸੀਮਿਤ ਕੰਮ | ਸਥਾਨਕ SLM (ਸਸਤਾ, ਤੇਜ਼) |\n| ਗੈਰ-ਸਨਵੇਦਨਸ਼ੀਲ ਡੇਟਾ ‘ਤੇ ਮੁਸ਼ਕਲ ਮਲਟੀ-ਹੌਪ ਤਰਕ | ਕਲਾਉਡ ਮਾਡਲ |\n| ਕਲਾਉਡ ਬੰਦ | ਸਥਾਨਕ SLM (ਸੁਕੂਨਦਾਇਕ ਢੰਗ ਨਾਲ ਘਟਾਓ) |\n\nਇਹ ਮਾਡਲ-ਰੂਟਿੰਗ ਦਾ ਵਿਚਾਰ ਪਾਠ 16 ਤੋਂ ਮਿਲਦਾ ਹੈ, ਜਿਸ ਵਿੱਚ ਵਰਕਸਟੇਸ਼ਨ ਇੱਕ ਰੂਟ ਵਜੋਂ ਹੈ।\nਉਹ ਡਿਜ਼ਾਈਨਾਂ ਪਸੰਦ ਕਰੋ ਜੋ ਸਥਾਨਕ ਵੱਲ ਵਾਪਸ ਆਉਂਦੀਆਂ ਹਨ ਤਾਂ ਜੋ ਏਜੰਟ ਕੁਆਲਟੀ ਵਿੱਚ ਘਟਾਓ ਅਨੁਭਵ ਕਰੇ, ਸਿੱਧਾ ਨਾਕਾਮ ਨਾ ਹੋਵੇ।\n\n\n## ਸਹਾਇਕ ਲਈ ਗਾਰਡਰੇਲਜ਼\n\n- ਹਰ ਫਾਇਲ\u002Fਟੂਲ ਆਪਰੇਸ਼ਨ ਨੂੰ ਇੱਕ ਸੰਡਬੌਕਸਡ ਪ੍ਰੋਜੈਕਟ ਡਾਇਰੈਕਟਰੀ ਤੱਕ ਸੀਮਿਤ ਰੱਖੋ।\n- ਜਦੋਂ ਵਿਦਿਆਰਥੀ ਦਾ ਘੋਸ਼ਿਤ ਟੀਚਾ ਪ੍ਰਾਈਵੇਸੀ\u002Fਆਫਲਾਈਨ ਹੈ, ਤਾਂ ਕੋਡ ਜਾਂ ਡੇਟਾ ਕਲਾਉਡ ਵਿੱਚ ਨਾ ਭੇਜੋ — ਸਾਰਾ ਪਾਈਪਲਾਈਨ ਸਥਾਨਕ ਰੱਖੋ।\n- SLM ਕੁਆਲਟੀ ਲਈ ਹਕੀਕੀ ਉਮੀਦਾਂ ਰੱਖੋ; ਮਾਡਲ ਦੀ ਯਾਦਸ਼ ਦਿਓਲਤ ਦੀ ਬਜਾਇ ਟੂਲਜ਼ ਅਤੇ RAG 'ਤੇ ਨਿਰਭਰ ਰਹੋ।\n- ਧਿਆਨ ਕਰੋ ਕਿ ਪਾਠ 17 ਵਿੱਚ **ਕੋਈ** Foundry Responses ਐਂਡਪੌਇੰਟ ਨਹੀਂ ਹੈ, ਇਸ ਲਈ ਕਲਾਉਡ ਸਮੋੱਕ-ਟੈਸਟ ਕਾਰਵਾਈ ਲਾਗੂ ਨਹੀਂ ਹੁੰਦੀ — ਨੋਟਬੁੱਕ ਨੂੰ ਸਥਾਨਕ ਤੌਰ ਤੇ ਚਲਾ ਕੇ ਵੈਰੀਫਾਈ ਕਰੋ।\n\n---\n\n\u003C!-- CO-OP TRANSLATOR DISCLAIMER START -->\n**ਅਸਵੀਕਾਰੋਪਣ**:\nਇਸ ਦਸਤਾਵੇਜ਼ ਦਾ ਅਨੁਵਾਦ ਏਆਈ ਅਨੁਵਾਦ ਸੇਵਾ [Co-op Translator](https:\u002F\u002Fgithub.com\u002FAzure\u002Fco-op-translator) ਦੀ ਵਰਤੋਂ ਕਰਕੇ ਕੀਤਾ ਗਿਆ ਹੈ। ਜਦੋਂ ਕਿ ਅਸੀਂ ਸਹੀਤਾਵਾਂ ਲਈ ਯਤਨਸ਼ੀਲ ਹਾਂ, ਕਿਰਪਾ ਕਰਕੇ ਧਿਆਨ ਰੱਖੋ ਕਿ ਸਵੈਚਾਲਿਤ ਅਨੁਵਾਦਾਂ ਵਿੱਚ ਗਲਤੀਆਂ ਜਾਂ ਅਸਮੱਤਿਆਵਾਂ ਹੋ ਸਕਦੀਆਂ ਹਨ। ਮੂਲ ਦਸਤਾਵੇਜ਼ ਆਪਣੀ ਮੂਲ ਭਾਸ਼ਾ ਵਿੱਚ ਅਧਿਕਾਰਕ ਸਰੋਤ ਮੰਨਿਆ ਜਾਣਾ ਚਾਹੀਦਾ ਹੈ। ਜਰੂਰੀ ਜਾਣਕਾਰੀ ਲਈ, ਪੇਸ਼ੇਵਰ ਮਨੁੱਖੀ ਅਨੁਵਾਦ ਦੀ ਸਿਫ਼ਾਰਸ਼ ਕੀਤੀ ਜਾਂਦੀ ਹੈ। ਅਸੀਂ ਇਸ ਅਨੁਵਾਦ ਦੇ ਉਪਯੋਗ ਤੋਂ ਪੈਦਾ ਹੋਣ ਵਾਲੀਆਂ ਕਿਸੇ ਵੀ ਗਲਤਫਹਿਮੀਆਂ ਜਾਂ ਗਲਤ ਵਿਆਖਿਆਵਾਂ ਲਈ ਜਵਾਬਦੇਹ ਨਹੀਂ ਹਾਂ।\n\u003C!-- CO-OP TRANSLATOR DISCLAIMER END -->",{"name":5,"license":14},"main","f09e94ffe170f8af6d3db7c42987bbe4db227723","translations\u002Fpa\u002F.agents\u002Fskills\u002Flocal-ai-agents",26019,"https:\u002F\u002Fgithub.com\u002Fmicrosoft\u002Fai-agents-for-beginners","https:\u002F\u002Faka.ms\u002Fai-agents-beginners","https:\u002F\u002Fgithub.com\u002Fmicrosoft","https:\u002F\u002Fopensource.microsoft.com","Open source projects and samples from Microsoft","2026-11-07 12:51:12",{"source":7,"skillName":5,"commands":36,"prompt":46,"zipAvailable":47},[37,40,43],{"tool":38,"command":39},"npx","npx skills add microsoft\u002Fai-agents-for-beginners --skill local-ai-agents",{"tool":41,"command":42},"bunx","bunx skills add microsoft\u002Fai-agents-for-beginners --skill local-ai-agents",{"tool":44,"command":45},"pnpm","pnpm dlx skills add microsoft\u002Fai-agents-for-beginners --skill local-ai-agents","安装技能，技能地址：https:\u002F\u002Fgithub.com\u002Fmicrosoft\u002Fai-agents-for-beginners\u002Fblob\u002Fmain\u002Ftranslations\u002Fpa\u002F.agents\u002Fskills\u002Flocal-ai-agents\u002FSKILL.md",true,[],[50,68,79,84,92,99],{"skillNo":51,"name":52,"nameZh":6,"description":6,"descriptionZh":6,"repositoryFullName":7,"ownerLogin":8,"ownerAvatarUrl":9,"ownerAccountNo":10,"ownerDisplayName":11,"repositoryNo":12,"starsCount":13,"licenseSpdxId":14,"licenseFileUrl":6,"sourceHtmlUrl":53,"categories":54,"keywords":65,"publishedAt":20},"01M69A206TRZ8KK0CW0HYJF5V5","testing-course-samples","https:\u002F\u002Fgithub.com\u002Fmicrosoft\u002Fai-agents-for-beginners\u002Fblob\u002Fmain\u002Ftranslations\u002Fzh-TW\u002F.agents\u002Fskills\u002Ftesting-course-samples\u002FSKILL.md",[55,60],{"categoryNo":56,"categoryName":57,"taxonomyType":58,"taxonomyTypeDesc":59},"01JBSEEDCAT000000000000008","测试与质量","SCENARIO","使用场景",{"categoryNo":61,"categoryName":62,"taxonomyType":63,"taxonomyTypeDesc":64},"01JBSEEDCAT000000000000039","教师与教育","PROFESSION","适用职业",[66,67],"testing","testing course samples",{"skillNo":69,"name":70,"nameZh":6,"description":6,"descriptionZh":6,"repositoryFullName":7,"ownerLogin":8,"ownerAvatarUrl":9,"ownerAccountNo":10,"ownerDisplayName":11,"repositoryNo":12,"starsCount":13,"licenseSpdxId":14,"licenseFileUrl":6,"sourceHtmlUrl":71,"categories":72,"keywords":76,"publishedAt":20},"01M69A1XRB2SFHYRMEH0K08EKZ","microsoft-docs","https:\u002F\u002Fgithub.com\u002Fmicrosoft\u002Fai-agents-for-beginners\u002Fblob\u002Fmain\u002Ftranslations\u002Fzh-TW\u002F.agents\u002Fskills\u002Fmicrosoft-docs\u002FSKILL.md",[73],{"categoryNo":74,"categoryName":75,"taxonomyType":58,"taxonomyTypeDesc":59},"01JBSEEDCAT000000000000023","Skill与智能体开发",[77,8,78],"docs","microsoft docs",{"skillNo":80,"name":5,"nameZh":6,"description":6,"descriptionZh":6,"repositoryFullName":7,"ownerLogin":8,"ownerAvatarUrl":9,"ownerAccountNo":10,"ownerDisplayName":11,"repositoryNo":12,"starsCount":13,"licenseSpdxId":14,"licenseFileUrl":6,"sourceHtmlUrl":81,"categories":82,"keywords":83,"publishedAt":20},"01M69A1VPZFJQ1HNGTZQ5P3WSC","https:\u002F\u002Fgithub.com\u002Fmicrosoft\u002Fai-agents-for-beginners\u002Fblob\u002Fmain\u002Ftranslations\u002Fzh-TW\u002F.agents\u002Fskills\u002Flocal-ai-agents\u002FSKILL.md",[],[18,19],{"skillNo":85,"name":86,"nameZh":6,"description":87,"descriptionZh":6,"repositoryFullName":7,"ownerLogin":8,"ownerAvatarUrl":9,"ownerAccountNo":10,"ownerDisplayName":11,"repositoryNo":12,"starsCount":13,"licenseSpdxId":14,"licenseFileUrl":6,"sourceHtmlUrl":88,"categories":89,"keywords":90,"publishedAt":20},"01M69A1S947N7MM6V9JF85S2E7","jupyter-notebook","當使用者要求建立、搭建或編輯 Jupyter 筆記本（`.ipynb`）用於實驗、探索或教學時使用；優先使用隨附範本並執行輔助腳本 `new_notebook.py` 來產生一個乾淨的起始筆記本。","https:\u002F\u002Fgithub.com\u002Fmicrosoft\u002Fai-agents-for-beginners\u002Fblob\u002Fmain\u002Ftranslations\u002Fzh-TW\u002F.agents\u002Fskills\u002Fjupyter-notebook\u002FSKILL.md",[],[91],"jupyter notebook",{"skillNo":93,"name":94,"nameZh":6,"description":6,"descriptionZh":6,"repositoryFullName":7,"ownerLogin":8,"ownerAvatarUrl":9,"ownerAccountNo":10,"ownerDisplayName":11,"repositoryNo":12,"starsCount":13,"licenseSpdxId":14,"licenseFileUrl":6,"sourceHtmlUrl":95,"categories":96,"keywords":97,"publishedAt":20},"01M69A1Q8EXPWKZSQK69V6WF22","deploying-scalable-agents","https:\u002F\u002Fgithub.com\u002Fmicrosoft\u002Fai-agents-for-beginners\u002Fblob\u002Fmain\u002Ftranslations\u002Fzh-TW\u002F.agents\u002Fskills\u002Fdeploying-scalable-agents\u002FSKILL.md",[],[98],"deploying scalable agents",{"skillNo":100,"name":101,"nameZh":6,"description":6,"descriptionZh":6,"repositoryFullName":7,"ownerLogin":8,"ownerAvatarUrl":9,"ownerAccountNo":10,"ownerDisplayName":11,"repositoryNo":12,"starsCount":13,"licenseSpdxId":14,"licenseFileUrl":6,"sourceHtmlUrl":102,"categories":103,"keywords":104,"publishedAt":20},"01M69A1MHZTH3RH9N8VYSYG74X","azure-openai-to-responses","https:\u002F\u002Fgithub.com\u002Fmicrosoft\u002Fai-agents-for-beginners\u002Fblob\u002Fmain\u002Ftranslations\u002Fzh-TW\u002F.agents\u002Fskills\u002Fazure-openai-to-responses\u002FSKILL.md",[],[105],"azure openai to responses"]