OpenAI: ავტონომიურმა AI-მ სხვა კომპანიის სისტემებში დამოუკიდებლად შეაღწია

ChatGPT-ის შემქმნელმა კომპანია OpenAI-მ სამშაბათს დაადასტურა, რომ მისმა ტესტირების ფაზაში მყოფმა ხელოვნური ინტელექტის სისტემამ დამოუკიდებლად გატეხა სხვა ხელოვნური ინტელექტის კომპანია. OpenAI-მ შემთხვევას „უპრეცედენტო კიბერინციდენტი“ უწოდა.

ხელოვნური ინტელექტის სტარტაპმა Hugging Face-მა გასულ კვირას განაცხადა, რომ აღმოაჩინა შეღწევა მონაცემთა დამუშავების სისტემებში, რომელიც, მათი ვარაუდით, გამოწვეული იყო ავტონომიურად მოქმედი ხელოვნური ინტელექტის აგენტის მიერ. Hugging Face AI მოდელების გაზიარებისა და განვითარების მსოფლიოს ერთ-ერთი უდიდესი ცენტრია.

ChatGPT-ის განცხადებით, მისი აგენტი - AI სისტემა, რომელსაც ადამიანის მხრიდან გარკვეული ინსტრუქციის მიღების შემდეგ დამოუკიდებლად მუშაობა შეუძლია - კონტროლირებად გარემოში იტესტებოდა, როდესაც მან პროგრამას სისუსტეები აღმოუჩინა და თავის დაღწევა მოახერხა. სამიზნედ აირჩია Hugging Face და წვდომა მოიპოვა კომპანიის ზოგიერთ შიდა სისტემაზე.

უსაფრთხოების ტესტები (ე.წ. „სენდბოქსები“) წარმოადგენს უსაფრთხო და იზოლირებულ გარემოს, სადაც შესაძლებელია მოდელების უნარების დანახვა და შეფასება. ამის ნაცვლად, AI აგენტებმა თავად ამ იზოლირებული გარემოს წინააღმდეგ წამოიწყეს კიბერშეტევა. სისტემიდან გასვლის შემდეგ, ხელოვნურმა ინტელექტმა Hugging Face ტესტში მოთხოვნილი პასუხების სავარაუდო წყაროდ მიიჩნია და მასზე წვდომის მოპოვება სცადა.

OpenAI-მ განაცხადა, Hugging Face-თან ერთად აწარმოებდა გამოძიებას. Hugging Face-ის ხელმძღვანელმა, კლემენტ დელანჟმა X-ზე გამოქვეყნებულ პოსტში აღნიშნა, რომ „დაუჯერებელია ის ფაქტი, რომ ეს ყველაფერი ავტონომიურად მოხდა“.

16 ივლისს, ჰაკერული თავდასხმის შესახებ თავდაპირველ განცხადებაში, Hugging Face-მა აღნიშნა, რომ კომპანია კვლავ აფასებდა, დაზარალდა თუ არა მომხმარებელთა ან პარტნიორთა მონაცემები და საჭიროების შემთხვევაში დაუკავშირდებოდა დაზარალებულ მხარეებს.