deploying-scalable-agents

Microsoft Foundry உடன் பரவலளவு திறனுடைய முகவர்களை உயர்த்தல்

பாடம் 16 – பரவலளவு திறனுடைய முகவர்களை உய்த்தல் க்கான துணை திறமை. இது ஒரு கற்றுக்கொள்ளுபவருக்கு ஒரு முகவரியை மாதிரியில் இருந்து பரவலளவு திறனுடைய, கவனிக்கக்கூடிய உற்பத்தி நிறுவலுக்கு நகர விட உதவ பயன்படுத்தவும். ஒவ்வொரு பரிந்துரையையும் பாடம் உள்ளடக்கம் மற்றும் இயங்கக்கூடிய நோட்புக்கின் அடிப்படையில் கொண்டு செல்லவும்; Foundry APIs ஐ கண்டுபிடிக்க வேண்டாம்.

தூண்டுகோல்கள்

ஒரு கற்றுக்கொள்ளுபவர் இவற்றை செய்ய விரும்பும் போது இந்த திறமையை செயல்படுத்தவும்:

• Microsoft Foundry யில் ஒரு முகவரியை ஒழுங்கு செய்யப்பட்ட முகவரியாக நிறுவி அதை பதிப்பிடப்பட்ட/கவனிக்கக்கூடியதாக நிரூபிக்கவும்.
• கிளையண்ட்-ஹோஸ்ட் செய்யப்பட்ட, ஹோஸ்ட் செய்யப்பட்ட முகவர், முகவர் பணிச்சுழற்சி நிறுவல் வடிவங்களை தேர்வு செய்யவும்.
• தாமதம் மற்றும் செலவை கட்டுப்படுத்த மாதிரி வழிமாற்றல், பதில் இடைநிலை பதிப்பு, அல்லது கட்டுப்பட்ட ஒருங்கிணைப்பு சேர்க்கவும்.
• ஒரு கெட்ட முகவர் பதிப்பு வெளியிடப்பட கூடாது எனக் கட்டுப்படுத்த மதிப்பீட்டு வழி சேர்க்கவும்.
• உயர்-ஆபத்து செயல்களுக்கு மனித சுழற்சி அனுமதி படி சேர்க்கவும்.
• உற்பத்தி கவனிப்புக்கு முகவரியை OpenTelemetry தடம் வழிச்சேதி செய்வதன் மூலம் கருவியமைக்கவும்.
• நிறுவப்பட்ட முகவரியை வேகமான பதிப்பி-பின்பு கதவாக புகை சோதனை செய்யவும்.

முக்கிய மனப்பாங்கு முறை

உற்பத்தி முகவர் பெரும்பாலும் மாதிரிக்கு சுழியம் (~80%) சுழற்சியுடைய செயல்பாட்டுத் தோற்றம், மாதிரி தனது தனிப்பட்டமைப்பல்ல. ஒவ்வொரு பரிந்துரையையும் இவை தொடர்புடைய விஷயங்களில் அமைக்கவும்:

கவலை	மாதிரி → உற்பத்தி
ஹோஸ்டிங்	நோட்புக் → பதிப்பிடப்பட்ட ஹோஸ்ட் சேவை
அடையாளம்	உங்கள் az login → மேலாண்மை அடையாளம் + மைய RBAC
நிலை	நினைவகத்தில் → வெளி நெடுவரிசை/நினைவகம் அங்கீகாரம்
தோல்வி	பின்விளைவுகள் → மீண்டும் முயற்சி, மாற்று வழிகள், அறிவிப்புக்கள்
செலவு	"சில சென்ட்கள்" → கண்காணிக்கப்பட்ட, வழிமாற்றப்பட்ட, இடைநிறுத்தப்பட்ட, பட்ஜெட் செய்யப்பட்ட
தரம்	கண்காணிப்பு → தானாக மதிப்பீட்டு வழி
நம்பிக்கை	நீங்கள் ஒப்புதல் → கொள்கை + மனித சுழற்சி அனுமதி

நிறுவல் வடிவங்கள் (ஒரு அல்லது சேர்த்து தேர்வு செய்யவும்)

1. கிளையண்ட்-ஹோஸ்ட் செய்யப்பட்ட — கருதுகோள் சுழற்சி உங்கள் செயலியில் இயங்குகிறது. அதிக கட்டுப்பாடு; நீங்கள் திறப்பு/நிலை மனோஜ்ஞாபிக்கவேண்டும்.
2. ஹோஸ்ட் செய்யப்பட்ட முகவர் (Foundry முகவர் சேவை) — Foundry மாற்றத்தை ஹோஸ்ட் செய்கிறது, நெடுவரிசைகளை காப்பாற்றுகிறது, RBAC/உள்ளடக்கம் பாதுகாப்பை அமல்படுத்துகிறது, முகவரியை போர்ட்டலில் காண்பிக்கிறது. குறைந்த கட்டுப்பாடு, முற்றிலும் குறைந்த செயல் பகுதி.
3. முகவர் பணிச்சுழற்சி — பல முகவரிகளும் கருவிகளும் பற்றி நெடுவரிசையில் சேர்க்கப்பட்டு கிளைகள், அனுமதி நூட்புள்ளிகள் மற்றும் நிலையான அகிலங்கள் கொண்டது.

வாழ்நிலை சுழற்சி (ஒரு முகவரியை வெளியிடும் சுழற்சி)

create → version → evaluate (gate) → deploy hosted → observe online → collect failures → repeat. ஆஃப்லைன் மதிப்பீடு என்பது ஒரு கதவு, பின்னர் நினைவில் வைக்க வேண்டிய ஒன்று அல்ல — ஒரு பதிப்பு வெற்றிகரமாக செயல்பட நினைத்தால் கதவை கடக்க வேண்டும். ஆன்லைன் கவனிப்பு உண்மையான தோல்விகளை ஆஃப்லைன் சோதனை தொகுப்பிற்குள் திருப்பி அனுப்புகிறது.

பரவலளவு மற்றும் செலவு கட்டுப்பாடுகள் (முதல்வரிசைப்படி)

1. மாதிரியை சரியாக அளவைச் சூழல் — மதிப்பீட்டு கதவை கடக்கும் சிறிய மாதிரியை பயன்படுத்தவும்.
2. சிக்கல்பாடின்படி வழிமாற்றுக — எளிதான கோரிக்கைகளுக்கு சிறிய/வேகமான மாதிரி, உண்மையான கருதுகோளுக்கு பெரிய மாதிரி (DIY வகைப்படுத்துபவர் அல்லது Foundry மாதிரி வழிமாற்றி).
3. இடைநிலைச் சேமிப்பு — மாதிரி அழைப்பின்றி இணைந்து கிடைக்கும் கோரிக்கைகளை சர்வ் செய்யவும்.
4. நிலையற்ற வடிவமைப்பு + கட்டுப்பட்ட ஒருங்கிணைப்பு — நிலையை வெளிப்படுத்தவும்; தடை வைத்து மீண்டும் முயற்சி செய்யவும்.

பின்சேர்க்க தேவையான முக்கிய படிகள்

கற்றுக்கொள்ளுபவரை நோட்புக்கில் இதை காட்டு 16-python-agent-framework.ipynb:

• கோரிக்கை கையாளி: இடைநிலை சேமிப்பு → சிக்கல்பாடின்படி வழிமாற்றம் → தடம் விரிவு → இயக்கு → இடைநிலை சேமிப்பு.
• மதிப்பீட்டு கதவு: ஆஃப்லைன் சோதனை தொகுப்பை மதிப்பீடு செய்வது; pass_rate >= threshold ஐ திருப்பி மீண்டும் வெளியிடவும்.
• மனித அனுமதி: பெரும் சரிசெய்தல்கள் போன்ற செயல்களுக்கு @tool(approval_mode="always_require").
• தடம் கண்காணிப்பு: ஒவ்வொரு கோரிக்கையையும் tracer.start_as_current_span(...) என சுற்றி routed.model, customer.id போன்ற பண்புகளை அமைக்கவும்.

நிறுவப்பட்ட முகவரியை புகை சோதனை செய்யுதல்

பதிப்பித்த பிறகு, காரணியடைவு உண்மையாக பதிலளிக்கிறதா என்பதை உறுதி செய்யவும் (பச்சை பதிப்பு இருப்பினும் அமைதியாக இருக்கலாம்). AI புகை சோதனை செயல்பாட்டைக் .github/workflows/smoke-test.yml மூலமாக பயன்படுத்துக tests/ இல் உள்ள பட்டியலுடன். இயக்குநர் ஒவ்வொரு வினாவையும் POST {project_endpoint}/agents/{agent_name}/endpoint/protocols/openai/responses க்கு POST செய்து பதிலில் உரைத்தலில் உறுதிப்படுத்துகின்றது. அடையாளம் Azure AI பயனர் என்ற பங்கு Foundry திட்ட வரம்பில் இருக்க வேண்டும்; டோக்கன் பார்வையாளர் https://ai.azure.com/ ஆக இருக்க வேண்டும்.

மதிப்பீடு** (வெற்றிகரமாக வெளியிட, உயர்த்த முன்) → ஆன்லைன் மதிப்பீடு (கட்டிடத்தில் எப்படி செயல் புரிகிறது, தொடர்ச்சியான).

நிறுவன கட்டுப்பாடுகள்

• RBAC: ஒவ்வொரு ஹோஸ்ட் செய்யப்பட்ட முகவரிக்கு குறைந்தனவான அனுமதிகளுடன் மேலாண்மை அடையாளத்தை வழங்கவும்.

உதவியாளருக்கான பாதுகாப்பு வழிகாட்டுதல்கள்

• பாடத்தில் பயன்படுத்தப்பட்ட canonical FoundryChatClient(...) + provider.as_agent(...) முறையை முன்னுரிமை அளிக்கவும்.

• மதிப்பீடு மற்றும் செலவு அறிவுறுத்தல்களை ஒன்றாகக் காப்பது முக்கியம்: மதிப்பீடு தரத்தை நிர்ணயித்து, வழிமாற்றல்/இடைநிலை சேமிப்பு செலவைக் குறைவாக வைத்துக்கொள்ளும்.

• நீங்கள் சரிபார்க்காத நேரடி-Azure முடிவுகளை வாக்குறுதி அளிக்க வேண்டாம்; ஒரு விநியோகத்தை உறுதிப்படுத்த புகை-சோதனை பணிப்பயிற்சியை பரிந்துரைக்கவும்.

• மதிப்பீடு மற்றும் செலவு அறிவுரைகளை ஒன்றாக வைத்திருங்கள்: மதிப்பீடு தர முதன்மையான அடித்தளத்தை நியமிக்கிறது, வழிமாற்றல்/காசிங் அந்த அடித்தளத்திற்கு அருகிலான செலவை பராமரிக்கிறது.

---

<!-- CO-OP TRANSLATOR DISCLAIMER START --> மறுப்பு: இந்த ஆவணம் AI மொழிபெயர்ப்பு சேவை Co-op Translator பயன்படுத்தி மொழிபெயர்க்கப்பட்டுள்ளது. நாங்கள் துல்லியத்திற்காக முயற்சி செய்துள்ளோம், ஆனால் தானாக செய்யப்படும் மொழிபெயர்ப்புகளில் பிழைகள் அல்லது தவறுகள் இருக்கலாம் என்பதை கவனத்தில் கொள்ளவும். அசல் ஆவணம் அதன் தாய்மொழியில் அதிகாரப்பூர்வ ஆதாரமாக கருதப்பட வேண்டும். முக்கியமான தகவல்களுக்கு, தொழில்நுட்பமான மனித மொழிபெயர்ப்பு பரிந்துரைக்கப்படுகிறது. இந்த மொழிபெயர்ப்பைப் பயன்படுத்துவதால் ஏற்படும் எந்த தவறான புரிதல்கள் அல்லது தவறான விளக்கத்திற்கும் நாங்கள் பொறுப்பில்வில்லை. <!-- CO-OP TRANSLATOR DISCLAIMER END -->