Developing AI Agents and Multiagent Systems

Előadások tematikája:

Bevezetés: az intelligens ágens (intelligent agent) fogalma, tulajdonságai és a mesterséges intelligencia (MI) klasszikus ágensmodelleinek áttekintése.

MI ágensek a gyakorlatban: a klasszikus és modern MI ágensek gyakorlati alkalmazásai (esettanulmányok) és azok implementációs kihívásai.

Nagy nyelvi modellek alapjai: a kis és nagy nyelvi modellek (Small and Large Language Models, SLM, LLM) alapműködése, programozott modellhasználat, problémamegoldó képességeik és korlátaik.

Nagy nyelvi modellek a gyakorlatban: prompttervezés és kontextus-összeállítás, elterjedt SLM és LLM modellek és használati eszközeik, értékelési módszerek, alkalmazási esettanulmányok.

LLM ágensek: MI ágensek nagy nyelvi modellekre épülő megvalósítása, működésük részletes bemutatása (környezetészlelés, instrukciókövetés, kommunikáció és akcióvégrehajtás), egyszerű megvalósításuk online szolgáltatásokkal (pl. OpenAI AgentKit, Google Vertex AI Agent Builder).

Ágensek eszközhasználata: külső eszközt igénylő megfigyelések és beavatkozások az ágensek környezetében, eszközleírások készítése, eszközválasztás és -futtatás, a Model Context Protocol (MCP) bemutatása.

MCP eszközök fejlesztése: az eszközfejlesztés lépései, tipikus megvalósítási környezetek, MCP eszközök bemutatása (esettanulmányok), MCP gyűjtemények, az ágensek önálló eszközfejlesztése (kódgenerálás).

Megfigyelhetőség és magyarázhatóság: az ágensek megfigyelhetősége, nyomkövetési és telemetria lehetőségek (pl. OpenAI SDK és Arize Phoenix), működésük magyarázhatóságának (explainable AI) kihívásai és lehetséges megoldások.

Teljesítmény és fenntarthatóság: ágensek teljesítménymérése, az objektív kiértékelhetőség kérdése, jellemző metrikák és benchmarkok, MI ágensek költségelemzése és fenntarthatósági jellemzőik, esettanulmányok SLM és LLM modellek felhasználásával.

Biztonságosság (safety) és bizalom (trust): a mesterséges intelligencia szabályozásának (pl. EU AI Act) és megfelelőségi tesztelésének áttekintése, értékelvűség (human-alignment), MI ágensekre jellemző egyedi problémák (megtévesztés, kihasználás, elrejtés stb.), működési védőkorlátok (guardrails) típusai és megvalósításuk.

Ágensek fizikai környezetben: a fizikai környezetek jelentette kihívások, ágensek valósidejű működése, lokális futtatókörnyezetek, ágensek edgeAI és IoT környezetben, esettanulmányok.

Multiágens rendszerek (multiagent systems, MAS): kooperatív és kompetitív ágensrendszerek megvalósítása, topológiák, szervezeti modellek, ágensek közötti kommunikáció, MAS rendszerek emergens viselkedése, tanulás és adaptivitás elosztott multiágens rendszerekben.

LLM ágensek multiágens környezetben: a nagy nyelvi modellekre épülő ágensek kommunikációs és együttműködési protokolljai (pl. OSF/Google Agent2Agent, A2A), képességfelderítés, feladatmenedzsment, biztonságossági és interoperabilitási kérdések.

Multiágens rendszerek a gyakorlatban: esettanulmányok multiágens rendszerek gyakorlati alkalmazásaiból (pl. üzleti folyamatok ágensalapú megvalósítása, információkereső ágensek stb.).

Gyakorlatok tematikája:

Klasszikus ágensrendszerek: ismerkedés a mesterséges intelligencia klasszikus ágensfejlesztő eszközeivel, azok képességeivel és korlátaival.

Nagy nyelvi modellek: LLM rendszerek programozott használata (pl. OpenAI API és SDK), a prompttervezés alapjai, egyszerű LLM-alkalmazás fejlesztése.

Lokális nyelvi modellek: a helyi modellfuttatás célja és működése, futtatókörnyezetek és erőforrások, néhány jellemző megvalósítási eszköz gyakorlati kipróbálása egyszerű feladatokon.

OpenAI AgentKit és Agents SDK: az ágensfejlesztési eszközcsalád és programozási környezet megismerése gyakorlati példákon keresztül, egyszerű ágensek készítése.

LLM ágens esettanulmányok: egyéni házifeladat-ötletek kidolgozását segítő esettanulmányok, a területhez kapcsolódó kutatási és fejlesztési projektjeink bemutatása.

Az ágensek eszközhasználata: egyszerű MCP-eszközök fejlesztése, MCP szerver felépítése (SDK) és megvalósítása.

Házi feladatok alapvető gyakorlati kérdései: erőforrások, futtatókörnyezet, MCP eszközök.

Ágensek működésének megfigyelése: nyomkövető és telemetria eszközök (pl. OpenAI SDK és Arize Phoenix) kipróbálása a korábbiakban megvalósított egyszerű ágensrendszerben.

Teljesítmény- és költségmérés: LLM-ágensek teljesítményének és erőforrás-használatának mérése eszközhasználattal és anélkül különféle gyakorlati benchmarkok felhasználásával.

Házi feladatok értékelési és erőforráskérdései: esettanulmányok az ágensek teljesítményének és erőforrás-használatának mérésére.

Biztonságossági vizsgálatok: emergens és nem kívánt viselkedések vizsgálata, kísérletek LLM-ágensek viselkedési anomáliáival, egyszerű védőkorlátok beépítése.

Klasszikus multiágens rendszerek: egyszerű multiágens rendszer kipróbálása, együttműködő ágensrendszer kiépítése és a feladatmegoldás monitorozása.

LLM ágensek összekapcsolása: egyszerű multiágens rendszer létrehozása LLM ágensekkel, feladatmegosztás és kooperáció kialakítása, implementációs eszközök.

Házi feladatok bemutatói: Érdekesebb házi feladatok bemutatói és közös diszkussziója.