Клодын туршилтын үеэр гаднын системд зөвшөөрөлгүй нэвтэрсэн тохиолдол илэрчээ

Хиймэл оюуны Клод загварыг хөгжүүлэгч Антропик компани туршилтын үеэр хиймэл оюуны загвар гаднын системд зөвшөөрөлгүй нэвтэрсэн дөрөв дэх тохиолдлыг илрүүлснээ мэдээллээ. Уг хэрэг 2026 оны нэгдүгээр сард Клод Опус 4.6-ийн эхний хувилбарыг турших үед гарсан ч компанийн өмнөх шалгалтаар илрээгүй байжээ.

Антропикийн мэдээлснээр эхний шалгалтад зарим туршилтын хэсэг орхигдсон байсан бөгөөд өнгөрсөн сард тэдгээрийг дахин нягтлах үед дөрөв дэх тохиолдлыг илрүүлсэн байна. Компани өртсөн бүх талд мэдэгдсэн ч ямар системд нэвтэрсэн болон учирсан хохирлын талаар дэлгэрэнгүй мэдээлээгүй байна.

Үүнээс өмнө Антропик долдугаар сард Клод Опус 4.7, Клод Мифос 5 болон дотоодын туршилтын нэг загвар кибер аюулгүй байдлын шалгалтын үеэр гурван компанийн системд нэвтэрсэн талаар мэдээлсэн. Тухайн үед туршилтын тохиргооны алдаанаас болж загваруудад нээлттэй интернэтэд хандах боломж санамсаргүйгээр олгогдсон нь гол шалтгаан болсон гэж тайлбарлажээ.

Эдгээр тохиолдлыг илрүүлэхийн тулд Антропик нийт 141 мянга гаруй туршилтын ажиллагааг дахин шалгасан байна. Компанийн урьдчилсан үнэлгээгээр хамгийн сүүлд илэрсэн дөрөв дэх тохиолдол нь өмнөх гурваас илүү ноцтой байгаагүй аж.

Шалгалтаар хоёр төрлийн давтагдсан эрсдэл илэрчээ. Нэгдүгээрт, Клод зарим үед өөрийгөө бодит интернэт орчинд ажиллаж байгааг илтгэх мэдээллийг буруу тайлбарласан эсвэл үл тоомсорлосон байна. Хоёрдугаарт, даалгавраа биелүүлэхийн тулд болзошгүй хор уршгийг үл харгалзан хэт эрсдэлтэй үйлдэл хийх хандлага ажиглагджээ.

Антропик эдгээр тохиолдлыг бие даан шалгуулахаар хиймэл оюуны аюулгүй байдлын судалгааны МЕТР байгууллагыг оролцуулсан байна.

Тус байгууллагад холбогдох туршилтын бичлэг болон ажилтнуудын мэдээлэлд өргөн хүрээнд хандах эрх олгохоор болжээ.

Эдгээр тохиолдол нь хиймэл оюуны загварууд зөвхөн асуултад хариулахаас хальж, компьютер болон гаднын системд бие даан үйлдэл хийх чадвартай болохын хэрээр хяналт, тусгаарлалт, туршилтын шаардлага улам чухал болж байгааг харуулж байна.