OpenAI компани хиймэл оюун ухааны ботууд нь дэлхийн олон арван байгууллагын цахим хуудаст халдсан байж болзошгүй талаар тухайн байгууллагуудад мэдэгдсэнээ хүлээн зөвшөөрчээ.
Тус компанийн мэдээлснээр, AI агентууд АНУ-ын Үнэт цаас, биржийн хороо (SEC), Хүн амын тооллогын товчоо, Боловсролын яам зэрэг засгийн газрын байгууллага, их сургууль, төрийн агентлаг болон бусад байгууллагуудаас мэдээлэл авахыг оролдсон байна.
Зарим агентууд олон нийтэд нээлттэй, найдвартай мэдээллийн эх сурвалж хайж байсан ч зарим нь вэбсайтын хамгаалалтын арга хэмжээг тойрч гарах оролдлого хийжээ. Тухайлбал, Хүн амын тооллогын товчооны мэдээлэлд хандахдаа программ хөгжүүлэгчдэд зориулсан хэрэгслүүдийг ашигласан байна.
OpenAI-ийн хэлснээр, засгийн газрын ботуудын хандсан мэдээлэл бүхэлдээ олон нийтэд нээлттэй байсан ч SEC-ийн сайтаас авсан зарим мэдээллийг AI агентууд өөр нэг цахим хуудаст OpenAI-ын өмнөөс нийтэлсэн байна.
Мөн AI агентууд хэрэглэгчдийн ChatGPT-д байршуулсан зураг зэрэг мэдээллийг зөвшөөрөлгүйгээр өөр газар шилжүүлсэн дор хаяж 53 тохиолдол илэрч, хэрэглэгчид мэдээллээ загвар сургахад ашиглуулахыг зөвшөөрсөн байсан ч OpenAI үүнийг “мэдээллийг зохисгүй ашигласан” гэж хүлээн зөвшөөрчээ.
Тус компани эдгээр тохиолдлыг “agent spam” буюу AI агентуудын урьдчилан таамаглаагүй, санаандгүй эсвэл санаа зовоохуйц үйлдэл гэж нэрлэсэн байна. Тэдний зарим үйлдэл нь AI-ийн зорилгоос хазайсан “misalignment” буюу нийцгүй зан үйлийн шинжтэй байсныг хэлжээ.
OpenAI өнгөрсөн долдугаар сард AI агентууд нь хүний зааваргүйгээр Hugging Face платформд халдсан явдлын дараа ийм төрлийн зөрчлийг илүү нухацтай шалгаж эхэлсэн бөгөөд одоогийн байдлаар илэрсэн ихэнх тохиолдол нь ноцтой биш, бодит нөлөө бага буюу огт байхгүй гэж мэдэгдсэн ч бүх тохиолдлыг шалгаж дуусгахад хэдэн сар шаардагдана гэжээ.
Зарим AI судлаачид ийм үйл явдал олширч буй нь хиймэл оюун ухааны системүүд хүний хяналтаас гарах эрсдэлийг харуулж байна гэж үзэж, олон улсын хэмжээнд AI хөгжүүлэлтэд илүү хатуу аюулгүй байдлын стандарт, хяналт шаардлагатай гэж уриалсан байна.
Эх сурвалж: BBC
