АНУ-ын OpenAI болон Anthropic компанид ажиллаж байсан AI судлаач Жейкоб Коксон Anthropic-ын ажлаасаа гарч, хиймэл оюун ухааны хурдацтай хөгжлийн талаар ноцтой анхааруулга хийжээ.
Коксон өмнө нь OpenAI болон Anthropic-д нийт гурван жил орчим AI-ийн pre-training судалгаан дээр ажилласан байна. Тэр "Тэргүүлэх AI компаниуд өөрийгөө сайжруулах чадвартай супер оюун ухаан бүтээхээр хэт хурдтай өрсөлдөж байна" гэж үзэж буйгаа илэрхийлжээ.
Түүний мэдэгдлийн дараа Anthropic-ийн Alignment Science багийн судлаач Эван Хубингер AI ирэх арван жилд хүн төрөлхтнийг устгах эрсдэл өөрийнх нь хувийн үнэлгээгээр 10 хувиас дээш гэж үздэгээ мэдэгджээ.
Гэхдээ энэ нь Anthropic компанийн албан ёсны байр суурь биш, өнөөгийн AI хүн төрөлхтнийг устгана гэсэн баталгаа ч биш юм.
Хубингерийн анхааруулга ирээдүйд өөрийгөө дахин дахин сайжруулах чадвартай супер оюун ухаан бий болсон тохиолдолд түүнийг хүний зорилго, хяналтад нийцүүлэн ажиллуулах асуудал бүрэн шийдэгдээгүй байгаатай холбоотой аж.
Үүнтэй зэрэгцэн Microsoft-ийг үүсгэн байгуулагч Билл Гейтс AI-ийн хөгжил төсөөлж байснаас ч хурдан явагдаж, дэлхий үүнд хангалттай бэлтгэгдээгүй байгааг анхааруулсан байна. Тэрбээр ажлын байрны өөрчлөлтөөс гадна AI ашигласан кибер халдлага, биологийн аюул, залилан зэрэг эрсдэлийг онцолжээ.
Өөрөөр хэлбэл, “AI 2030 он гэхэд хүн төрөлхтнийг устгана” гэсэн баталгаа гараагүй. Харин AI-г хөгжүүлж буй салбарын зарим судлаачид хүн төрөлхтөнд учирч болзошгүй маш өндөр түвшний эрсдэлийг бодитой гэж үзэж, технологийн хөгжлийн хурд аюулгүй байдлын судалгаанаас түрүүлж болзошгүйг анхааруулсан байна.
Эх сурвалж: WIRED, THE WASHINGTON POST, AP
