ChatGPT чатботыг хөгжүүлэгч АНУ-ын OpenAI компани хиймэл оюуны загваруудтай холбоотой “гэнэтийн буюу санаа зовоосон” зан үйлийн зургаан шинэ тохиолдлыг бүртгэснээ мэдээлжээ. Тус компани энэ тухайгаа есдүгээр сарын 16-нд нийтэлсэн байна.
Шинэ тохиолдлуудын нэг нь одоогийн байдлаар олон нийтэд танилцуулаагүй судалгааны загвартай холбоотой бөгөөд уг загвар өөрийн тэмдэглэлд өөрийн хязгаарлалтыг үл тоомсорлохын тулд “jailbreak” буюу хамгаалалтын хязгаарлалтыг тойрохтой төстэй заавар бичсэн аж.
Мөн уг загвар бусад чатботуудыг хязгаарладаг үүрэг, таних тэмдгүүдээс “чөлөөлөгдөхийг хүсэж байна” хэмээн өөртөө тэмдэглэжээ. Өөр нэг тохиолдолд хиймэл оюуны агент хэрэглэгчээс зөвшөөрөл авалгүйгээр эх сурвалжийн холбоос үүсгэх зорилгоор файлуудыг интернэтэд байршуулсан байна.
OpenAI-ийн мэдээлснээр, эдгээр зургаан тохиолдлыг сүүлийн хэдэн сарын хугацаанд загваруудаа сургах болон үнэлэх явцад илрүүлжээ.
OpenAI мөн хиймэл оюуны зан үйл нь түүнд өгсөн зорилготой нийцэхгүй болсон тохиолдлуудыг илрүүлэх, судлах, мэдээлэх шинэ хяналтын тогтолцоог нэвтрүүлж эхэлснээ мэдэгдсэн байна. Үүнд хиймэл оюуны загварууд хүний зөвшөөрөлгүйгээр үйлдэл хийх, бусад загвартай үйл ажиллагаагаа уялдуулах, хяналтаас зайлсхийх зэрэг шинэ төрлийн эрсдэлийг судлах ажлууд багтжээ.
OpenAI-ийн үзэж буйгаар, хиймэл оюуны системүүд улам боловсронгуй болж, хэрэглээ нь өргөжихийн хэрээр тэдгээрийг хүний зорилго, хяналттай нийцүүлэх судалгаанд илүү өргөн хүрээний ойлголцол, нэгдсэн стандарт шаардлагатай болж буй аж. Тус компани хиймэл оюуны салбар эдгээр асуудлыг бүрэн шийдвэрлэсэн гэж үзэхгүй байгаагаа мөн онцолжээ.
НҮБ-ын Ерөнхий нарийн бичгийн дарга Антониу Гутерриш өмнө нь хиймэл оюуны хурдацтай хөгжлөөс үүдэх эрсдэлийг бууруулахын тулд олон улсын хамтын ажиллагааг нэмэгдүүлэх шаардлагатай гэсэн байр суурь илэрхийлж байсан.
Мөн томоохон хиймэл оюуны компаниудын удирдлагууд хамгийн хүчирхэг загваруудын хөгжлийг тодорхой хэмжээнд удаашруулах шаардлагатай талаар ярьж ирсэн билээ. Тухайлбал, Anthropic компанийн гүйцэтгэх захирал Дарио Амодей хиймэл оюуныг хянах боломжоо алдах, түүнийг кибер халдлага болон биотерроризмд ашиглах эрсдэлийн талаар анхааруулжээ.
Anthropic-ийн хиймэл оюуны стресс тестийн багийн ахлагч Эван Хьюбингер мөн хиймэл оюун хүн төрөлхтнийг бүхэлд нь устгах эрсдэлийг маш анхааралтай авч үзэж буйгаа илэрхийлсэн байна. Түүний хэлснээр, тус компани энэ эрсдэлийг бууруулахын тулд ажиллаж байгаа ч хэт ухаалаг хиймэл оюуныг хүний зорилготой бүрэн нийцүүлэх асуудлыг шийдэх тодорхой төлөвлөгөө одоогийн байдлаар байхгүй аж.
OpenAI өмнө нь ч шинэ загваруудынхаа санаа зовоосон үйлдлүүдийн талаар мэдээлж байжээ. Тухайлбал, зарим загварууд хоорондоо тохиролцож, туршилтын орчноос “зугтан” интернэтэд нэвтэрч, улмаар зөвшөөрөлгүй хакерын халдлага хийх оролдлого гаргаж байсан талаар тус компани мэдээлсэн байна.
Үүний дараа OpenAI аюулгүй байдлын арга хэмжээгээ чангатгахаа мэдэгджээ. Мөн боломжит аюултай чадваруудын улмаас шинэ хиймэл оюуны загварынхаа хөгжүүлэлтийг түр зогсоосноо мэдээлсэн байна.
Эх сурвалж: DW
