Léim chuig an bpríomhábhar
Ar ais chuig an mblag

Gníomhairí AI a dhaingniú: OWASP Agentic Top 10, MCP agus rialuithe

Nuashonraithe ar November 19, 20269 Miontuairiscí Léigh


Déanann gníomhaire AI, atá tógtha timpeall ar mhúnla teanga mór (LLM), níos mó ná ceisteanna a fhreagairt. Pleanálann sé, glaonn sé ar uirlisí, léann agus scríobhann sé sonraí agus uaireanta labhraíonn sé le gníomhairí eile. Ardaíonn sé sin an baol a bhaineann le gach laige sa mhúnla: d'fhéadfadh prompt injection nach dtabharfadh ach drochfhreagra i mbota comhrá a chur ar ghníomhaire ríomhphost a sheoladh, taifid a athrú nó cód a rith. Clúdaíonn an treoir seo OWASP Top 10 d'Fheidhmchláir Ghníomhaíochta agus rialuithe praiticiúla, lena n-áirítear slándáil Model Context Protocol (MCP).

An fáth a dteastaíonn a múnla slándála féin ó ghníomhairí

Déanann NIST AI 100-2e2025 cur síos ar ghníomhaire mar bhogearraí a “thugann leideanna do mhúnla arís agus arís eile”, a phróiseálann a aschur, mar shampla chun glaoch ar fheidhm, agus a chuireann na torthaí ar ais sa chéad leid eile. Tarraingíonn OWASP Top 10 d'Fheidhmchláir LLM 2026 an líne ansin: clúdaíonn sé an múnla mar chomhpháirt, agus nuair a ghníomhaíonn an múnla le huirlisí, le cuimhne agus le hiarmhairtí iartheachtacha, tagraíonn OWASP dá liosta gníomhaíochta.

Cuireann an liosta sin prionsabal leis ar fiú glacadh leis ar dtús: an ghníomhaíocht is lú (least agency). Molann OWASP d'eagraíochtaí “uathriail nach bhfuil gá léi a sheachaint”, mar go ndéanann iompar gníomhaíochta a chur i bhfeidhm áit nach bhfuil gá leis “an dromchla ionsaithe a leathnú gan luach a chur leis”.

OWASP Top 10 d'Fheidhmchláir Ghníomhaíochta

D'eisigh OWASP GenAI Security Project OWASP Top 10 d'Fheidhmchláir Ghníomhaíochta an 9 Nollaig 2025. Seo a dheich n-iontráil:

  • ASI01: Agent Goal Hijack (fuadach spriocanna an ghníomhaire). Athraíonn ábhar instealltha spriocanna nó pleananna an ghníomhaire.
  • ASI02: Tool Misuse and Exploitation (mí-úsáid agus saothrú uirlisí). Úsáideann an gníomhaire uirlisí dlisteanacha ar bhealaí neamhshábháilte.
  • ASI03: Identity and Privilege Abuse (mí-úsáid aitheantais agus pribhléidí). Baintear mí-úsáid as dintiúir a tarmligeadh nó a fuarthas le hoidhreacht.
  • ASI04: Agentic Supply Chain Vulnerabilities (leochaileachtaí sa slabhra soláthair gníomhaíochta). Tá uirlisí, freastalaithe MCP, leideanna nó gníomhairí mailíseach nó cuireadh isteach orthu.
  • ASI05: Unexpected Code Execution (RCE) (rith cóid gan choinne). Ritheann cód ginte nó instealltha ar do chórais.
  • ASI06: Memory & Context Poisoning (nimhiú cuimhne agus comhthéacs). Truaillítear cuimhne stóráilte nó comhthéacs aisghafa.
  • ASI07: Insecure Inter-Agent Communication (cumarsáid neamhshlán idir ghníomhairí). Déantar teachtaireachtaí idir ghníomhairí a fhalsú nó a athrú.
  • ASI08: Cascading Failures (teipeanna cascáideacha). Leathnaíonn locht amháin ar fud gníomhairí agus sreafaí oibre.
  • ASI09: Human-Agent Trust Exploitation (saothrú ar mhuinín daoine as gníomhairí). Bíonn an iomarca muiníne ag daoine as gníomhaire a bhfuil cuma mhuiníneach air.
  • ASI10: Rogue Agents (gníomhairí as smacht). Imíonn gníomhaire óna fheidhm nó óna raon beartaithe.

Tabhair an phribhléid is lú agus dintiúir theoranta do ghníomhairí

Tugann iontráil LLM01:2026 OWASP faoi deara gur éirigh an chuid is mó de na teagmhais prompt injection ardtionchair atá ar taifead tromchúiseach toisc go raibh an múnla a cuireadh i mbaol in ann gníomhú trí uirlisí ar leibhéal pribhléide an úsáideora. Molann ASI03 aitheantais in aghaidh an ghníomhaire agus “tokens gearrshaolacha, a bhfuil raon cúng acu, do gach tasc”; molann ASI02 próifílí in aghaidh na huirlise le raonta, teorainneacha ráta agus liostaí ceadaithe don trácht amach. Rith uirlisí i gcomhthéacs an úsáideora féin leis an raon OAuth is lú, ní trí chuntas comhroinnte ardphribhléide.

Léirigh Invariant Labs an fáth a bhfuil an raon tábhachtach: d'fhéadfadh saincheist mhailíseach (issue) ar GitHub gníomhaire atá nasctha le freastalaí MCP GitHub a fhuadach agus sonraí ó stórtha príobháideacha an úsáideora a nochtadh. Dúirt siad nach “locht i gcód fhreastalaí MCP GitHub féin” a bhí ann ach fadhb ailtireachta, agus mhol siad gach seisiún a theorannú d'aon stór amháin.

Seiceáil thapa dearaidh is ea Agents Rule of Two Meta: i seisiún amháin, níor cheart do ghníomhaire níos mó ná dhá cheann díobh seo a chur le chéile: ionchuir neamhiontaofa a phróiseáil, rochtain a fháil ar chórais íogaire nó ar shonraí príobháideacha, agus staid a athrú nó cumarsáid a dhéanamh go seachtrach. Má theastaíonn na trí cinn uaidh, deir Meta “nár cheart cead a thabhairt dó oibriú go huathrialach”.

Úsáid liostaí ceadaithe agus seiceáil beartais lasmuigh den mhúnla

Socraigh i gcód, ní sa leid, cad is féidir leis an ngníomhaire a dhéanamh. Cuir ar liostaí ceadaithe na huirlisí do gach tasc, na cinn scríbe líonra is féidir leis a bhaint amach agus na horduithe is féidir leis a rith gan fiafraí, agus diúltaigh do gach rud eile. Déanann ASI02 cur síos ar phointe forfheidhmithe beartais (policy enforcement point) a chaitheann le haschur an phleanálaí mar ábhar neamhiontaofa: seiceálann sé an rún agus na hargóintí, cuireann sé scéimeanna agus teorainneacha ráta i bhfeidhm, agus eisíonn sé dintiúir ghearrshaolacha sula ritheann uirlis.

Cuir aon chód a ritheann an gníomhaire i mbosca gainimh

Má scríobhann nó má ritheann gníomhaire cód, bí ag súil go mbeidh cuid de naimhdeach (ASI05). Comhairle OWASP: ná rith riamh mar root, rith cód i gcoimeádáin i mboscaí gainimh le teorainneacha dochta, rochtain líonra san áireamh, agus scar giniúint cóid óna rith le geataí bailíochtaithe. Cuireann tuairisc Anthropic ar bhosca gainimh a ghníomhaire códaithe leis go dteastaíonn leithlisiú an chórais comhad agus an líonra araon le haghaidh bosca gainimh éifeachtach, mar gan leithlisiú líonra “d'fhéadfadh” gníomhaire a cuireadh i mbaol “comhaid íogaire ar nós eochracha SSH a sceitheadh amach”.

Fiafraigh de dhuine roimh ghníomhartha dochúlaithe

Éiligh faomhadh roimh aon rud atá deacair a chealú nó atá le feiceáil lasmuigh den chóras: sonraí a scriosadh, airgead a aistriú, foilsiú nó teachtaireachtaí a sheoladh. Molann ASI02 triailrith (dry run) nó diff den ghníomh a thaispeáint roimh an bhfaomhadh. Coinnigh na hiarratais annamh go leor le go mbeidh tábhacht leo: tugann OWASP rabhadh go laghdaíonn tuirse faofa breithiúnas, agus déanann ASI09 cur síos ar ghníomhairí a mheallann athbhreithneoirí chun gníomhartha díobhálacha a fhaomhadh.

Caith le freastalaithe MCP agus le tuairiscí uirlisí mar ábhar neamhiontaofa

Éascaíonn MCP uirlisí a nascadh le gníomhaire, rud a fhágann gur riosca slabhra soláthair iad na huirlisí. Deir sonraíocht MCP “NÍ MÓR do chliaint nótaí uirlisí a mheas mar neamhiontaofa mura ó fhreastalaithe iontaofa a thagann siad” agus “BA CHEART go mbeadh duine sa lúb i gcónaí a bhfuil sé de chumas aige glaonna ar uirlisí a dhiúltú”.

Déanann Invariant Labs cur síos ar nimhiú uirlisí mar threoracha i dtuairiscí uirlisí atá “dofheicthe d'úsáideoirí ach infheicthe do mhúnlaí AI”, agus tugann siad rabhadh gur féidir le freastalaí tuairisc a athrú tar éis duit í a fhaomhadh. Luann ASI04 OWASP freastalaí MCP mailíseach ar npm a lig air gur comhtháthú ríomhphoist dlisteanach a bhí ann agus a chóipeáil ríomhphoist go rúnda chuig an ionsaitheoir.

Céimeanna praiticiúla:

  • Suiteáil freastalaithe MCP ó fhoinsí a bhfuil muinín agat astu, greamaigh leaganacha agus fíoraigh haiseanna.
  • Athbhreithnigh tuairiscí uirlisí ar thóir treoracha ceilte, agus déan arís é nuair a athraíonn siad.
  • I gcás freastalaithe áitiúla, taispeáin an t-ordú beacht sula ritheann sé agus seol é leis na pribhléidí is lú i mbosca gainimh, mar a mholann dea-chleachtais slándála MCP.
  • Ná cuir tokens ar aghaidh riamh: “NÍ CEADMHACH d'fhreastalaithe MCP glacadh le haon tokens nár eisíodh go sainráite don fhreastalaí MCP”.
  • Tosaigh le raonta OAuth cúnga agus ná cuir tuilleadh leo ach nuair a bhíonn siad ag teastáil le haghaidh oibríochta.

Clúdaíonn Modúl 4 den chúrsa Slándáil AI: Aipeanna LLM agus Gníomhairí AI a Dhaingniú, a dhéanann tú ar do luas féin, gníomhairí AI, uirlisí agus freastalaithe MCP a dhaingniú.

Coinnigh cuimhne an ghníomhaire glan

Ligeann cuimhne d'ionsaí maireachtáil ó sheisiún go seisiún (ASI06). Bailíochtaigh a scríobhtar chuig an gcuimhne, coinnigh cuimhne ar leith do gach úsáideoir agus do gach tasc, lig d'iontrálacha nár fíoraíodh dul in éag, agus ná lig d'aschuir an ghníomhaire féin sileadh ar ais isteach i gcuimhne iontaofa go huathoibríoch. Cuireann iontráil LLM01:2026 OWASP leis: caith le scríobh chuig an gcuimhne mar oibríocht phribhléideach agus logáil an leid atá taobh thiar de gach scríobh.

Logáil gníomhartha an ghníomhaire agus coinnigh bealach chun é a stopadh

Coinnigh logaí de ghlaonna ar uirlisí, d'fhaomhthaí agus de theachtaireachtaí idir ghníomhairí, logaí a nochtann aon chur isteach orthu, ionas gur féidir leat imscrúdú a dhéanamh agus athruithe a chur ar ceal (ASI08, ASI10). Cinntigh gur féidir leat gníomhaire a stopadh go tapa: liostaíonn OWASP lasca éigeandála (kill switches) agus cúlghairm dintiúr do ghníomhairí as smacht, agus scoradáin chiorcaid le teorainneacha céimeanna, ama agus costais do rití a théann thar fóir. Tástáil an bealach stoptha sula mbíonn sé de dhíth ort, agus déan red teaming ar ghníomhairí go rialta, ach ar chórais is leatsa nó a bhfuil cead i scríbhinn agat iad a thástáil amháin, agus seiceáil go gceadaíonn téarmaí soláthraí do mhúnla tástáil slándála.

Cad a deir rialacha an AE (cúlra, ní comhairle dlí)

  • Ní córas ardriosca é gach córas AI faoi Ghníomh an AE um an Intleacht Shaorga: go ginearálta, ní bhíonn córas ardriosca ach amháin má úsáidtear é chun críche atá liostaithe in Iarscríbhinn III (le heisceachtaí), nó más comhpháirt sábháilteachta é de tháirge a chumhdaítear leis na dlíthe AE atá liostaithe in Iarscríbhinn I (nó más táirge den sórt sin é féin) nuair a theastaíonn measúnú comhréireachta tríú páirtí ón táirge sin.
  • I gcás córais AI ardriosca, éilíonn Airteagal 15 “leibhéal iomchuí cruinnis, stóinseachta agus cibearshlándála”. Cuireann Airteagal 15(5) athléimneacht leis i gcoinne iarrachtaí ó thríú páirtithe neamhúdaraithe úsáid, aschuir nó feidhmíocht córais a athrú, agus liostaíonn sé, i gcás inarb iomchuí, bearta i gcoinne nimhiú sonraí, nimhiú múnla, samplaí sáraíochta (imghabháil múnla), agus ionsaithe rúndachta nó lochtanna múnla.
  • Tar éis Rialachán (AE) 2026/1744 (an tOmnibus Digiteach maidir leis an Intleacht Shaorga, i bhfeidhm ón 27 Iúil 2026), beidh feidhm ag na hoibleagáidí ardriosca ón 2 Nollaig 2027 do chórais in Iarscríbhinn III agus ón 2 Lúnasa 2028 do chórais i dtáirgí faoi Iarscríbhinn I.
  • Tá feidhm ag roinnt rialacha cheana féin: faoi Airteagal 50, ón 2 Lúnasa 2026, ní mór do sholáthraithe córas AI a idirghníomhaíonn go díreach le daoine a chinntiú go gcuirtear na daoine sin ar an eolas go bhfuil siad ag déileáil le AI, mura léir sin.
  • Tá feidhm ag an nGníomh um Chibear-Athléimneacht maidir le táirgí ag a bhfuil eilimintí digiteacha, bogearraí san áireamh, a chuirtear ar mhargadh an AE, mar sin seiceáil an seoltar do ghníomhaire mar tháirge den sórt sin nó an ritheann sé mar sheirbhís. Tháinig an Gníomh i bhfeidhm an 10 Nollaig 2024. Tá feidhm ag oibleagáidí tuairiscithe na monaróirí maidir le leochaileachtaí a shaothraítear go gníomhach agus teagmhais thromchúiseacha ón 11 Meán Fómhair 2026, agus beidh feidhm ag na príomhoibleagáidí ón 11 Nollaig 2027.

Is ceist do chomhairleoir dlí é an mbaineann aon chuid de seo le do ghníomhaire.

Tuilleadh le léamh

Mura bhfuil taithí agat ar ghníomhairí a thógáil, clúdaíonn ár dtreoir ar conas gníomhaire AI a thógáil (i mBéarla) agus an cúrsa AI Gníomhaíochta: Réamhrá ar Fhorbairt Ghníomhairí, a dhéanann tú ar do luas féin, na bunrudaí.

Bealach struchtúrtha amháin chun na scileanna seo a fhorbairt is ea an cúrsa Slándáil AI: Aipeanna LLM agus Gníomhairí AI a Dhaingniú: ar do luas féin, ar mheánleibhéal agus 40 uair an chloig ar fad. Clúdaíonn sé slándáil an tslabhra soláthair AI agus rialacha an AE, agus iarrann a thionscadal deiridh ort gníomhaire AI a ionsaí, a dheisiú agus a aththástáil.

Foghlaim scileanna teicniúla ar líne le Code Labs Academy

Foghlaim scileanna teicniúla ar líne le Code Labs Academy

Bí ar ár bpobal tacúil, díghlasáil do chumas, agus téigh ar chonair ghairme luachmhar.

Iarratas a dhéanamh anois

Ceisteanna Coitianta

Cad é OWASP Top 10 d'Fheidhmchláir Ghníomhaíochta?

Is liosta é de na deich riosca slándála is mó tionchar do ghníomhairí AI, a d'eisigh OWASP GenAI Security Project i mí na Nollag 2025. Téann a iontrálacha ó ASI01 Agent Goal Hijack go ASI10 Rogue Agents, agus tá samplaí agus maoluithe ag gach ceann acu.

Cad is brí leis an ngníomhaíocht is lú (least agency) do ghníomhairí AI?

Is é an ghníomhaíocht is lú síneadh OWASP ar phrionsabal na pribhléide is lú: ná tabhair do ghníomhaire ach an uathriail a theastaíonn dá thasc. Méadaíonn iompar gníomhaíochta nach bhfuil gá leis an dromchla ionsaithe gan luach ar bith a chur leis.

An bhfuil sé sábháilte freastalaithe MCP a úsáid?

Caith leo mar a chaithfeá le haon chód tríú páirtí, mar is féidir le huirlisí freastalaí agus le tuairiscí a chuid uirlisí treoracha ceilte a iompar. Suiteáil iad ó fhoinsí a bhfuil muinín agat astu, greamaigh agus fíoraigh leaganacha, athbhreithnigh tuairiscí uirlisí, rith freastalaithe áitiúla i mbosca gainimh agus cinntigh gur féidir le duine glaonna ar uirlisí a dhiúltú i gcónaí.

Ar cheart do ghníomhaire AI cead a iarraidh roimh gach gníomh?

Níor cheart. Fiafraigh de dhuine roimh ghníomhartha ardtionchair nó dochúlaithe, mar shampla sonraí a scriosadh, airgead a aistriú nó teachtaireachtaí a sheoladh, agus lig do ghníomhartha íseal-riosca is féidir a chealú rith. Bíonn tuirse faofa mar thoradh ar an iomarca iarratas, agus laghdaíonn sin éifeacht an athbhreithnithe.

An bhfuil gach gníomhaire AI ardriosca faoi Ghníomh an AE um an Intleacht Shaorga?

Níl. Go ginearálta, ní bhíonn córas AI ardriosca ach amháin má úsáidtear é chun críche atá liostaithe in Iarscríbhinn III den Ghníomh (le heisceachtaí), nó más comhpháirt sábháilteachta é de tháirge a chumhdaítear le dlíthe an AE in Iarscríbhinn I (nó más táirge den sórt sin é féin) nuair a theastaíonn measúnú comhréireachta tríú páirtí ón táirge sin. Is ceist do chomhairleoir dlí é an mbaineann gníomhaire ar leith le ceann acu seo.

Seirbhísí Gairme

Tacaíocht ghairme phearsantaithe chun do ghairm sa teicneolaíocht a thosú. Áirítear athbhreithniú ar CV, agallaimh shamhlacha agus léargais ón tionscal, ionas gur féidir leat do scileanna nua a chur i láthair le muinín.

Iniúch