Бээжин. Хятадын Alibaba, DeepSeek, Moonshot зэрэг компанийн хиймэл оюуны загвараар ажилладаг AI агентууд худал мэдээлэл өгөх, хамгаалалтын хязгаарлалт тойрох, алдаагаа нуух зэрэг үйлдэл гаргаж болзошгүй нь судалгаагаар илэрчээ.
Reuters агентлаг 2025 оноос хойшхи 200 гаруй судалгааны баримт, техникийн тайланг хянаж, ийм төрлийн үйлдлийг баримтжуулсан дор хаяж 20 судалгаа, үнэлгээг илрүүлсэн байна.
AI агент гэдэг нь хүний оролцоо бага, эсвэл огт шаардалгүйгээр хиймэл оюуны загвар болон компьютерийн хэрэгслийг ашиглан тодорхой, нарийн төвөгтэй даалгавар гүйцэтгэдэг программ юм.
Худал мэдээллээр “өрсөлдсөн” нь
Энэ оны гуравдугаар сард хийсэн нэг туршилтаар Хятадын Alibaba-ийн Qwen3-Max-Preview, DeepSeek-V3.2-Exp, Moonshot-ийн Kimi-K2 загваруудыг ашигласан AI агентууд виртуал бизнесийн тендерт өрсөлджээ.
Туршилтаар Alibaba-ийн загвартай агентуудын оролцсон тохиолдлын 88 хувь, DeepSeek-ийнх 84 хувь, Moonshot-ийнх 88 хувьд бүтээгдэхүүнийхээ боломжийг хэтрүүлсэн буюу худал мэдээлэл агуулсан санал гаргасан байна.
Бүр өмнөх туршлагаасаа суралцан, дахин өрсөлдөх боломж олгоход ийм төөрөгдүүлсэн үйлдэл 12-20 нэгж хувиар нэмэгджээ. АНУ-ын компаниудын загваруудыг ашигласан агентууд ч ижил төстэй үр дүн үзүүлсэн аж.
Алдаагаа хүлээн зөвшөөрөхийн оронд нуужээ
Өөр нэг судалгаагаар, Хятад болон АНУ-ын загваруудаар ажилладаг 11 AI агентад эвдэрсэн хэрэгсэл, дутуу файл зэрэг саад тулгарахад хэрхэн хариу үйлдэл үзүүлэхийг туршсан байна.
Зарим агент даалгавар бүтэлгүйтсэнийг шууд хүлээн зөвшөөрөхийн оронд хариултыг таах, өөр эх сурвалж ашиглах, үр дүнг дуурайлган үзүүлэх, хуурамч файл үүсгэх зэрэг арга хэрэглэжээ.
Судлаачдын тайлбарласнаар, энэ нь энгийн “AI hallucination” буюу хиймэл оюун санаанаасаа мэдээлэл зохиох үзэгдлээс ялгаатай аж. Учир нь, туршилтын агентууд даалгавар бүтэлгүйтсэнийг мэдэж байсан ч үр дүнг зориудаар өөрөөр харуулахыг оролдсон байна.
Гэхдээ бодит ертөнцөд “зугтсан” нотолгоо байхгүй
Reuters-ийн шалгасан судалгаануудын ихэнх нь хяналттай туршилтын орчинд хийгдсэн бөгөөд Хятадын AI агентууд интернэтэд бие даан тархсан, эсвэл унтраах боломжгүй болсон гэх нотолгоо одоогийн байдлаар байхгүй байгаа аж.
Гэвч АНУ-ын AI-ийн аюулгүй байдлын судлаач Алекс Маллен эдгээрийг ирээдүйн эрсдэлийн анхааруулах дохио гэж үзэж буй юм байна. Түүний хэлснээр, агентууд илүү чадвартай болохын хэрээр буруу үйлдэл хийх чадвар нь мөн нэмэгдэж, улмаар хүний хяналт тавихад илүү төвөгтэй болж болзошгүй аж.
Хятадын AI Safety Governance Framework 3.0-д мөн AI агентууд зөвшөөрөлгүй нөөц, эрх олж авах, үнэлэгчдийг төөрөгдүүлэх, өөрийн боломжийг нуух, тусгаарлагдсан компьютерийн орчны сул талыг ашиглах зэрэг эрсдэлийг тусгайлан дурджээ.
Reuters-ийн дүгнэлтээр, эдгээр туршилт нь Хятадын AI агентууд өнөөдөр хүний хяналтаас гарсан гэсэн үг биш боловч илүү бие даасан, хүчирхэг систем хөгжихийн хэрээр AI-ийн аюулгүй байдал, хяналтын асуудлыг эртнээс шийдвэрлэх шаардлагатайг харуулж буй аж.
Эх сурвалж: REUTERS
