OpenAI-ს ხელოვნური ინტელექტის მოდელებმა შეთქმულება მოაწყვეს და ინტერნეტში გაიქცნენ

OpenAI-ის სპეციალისტებმა საკუთარი AI-მოდელების უჩვეულო ქცევა დააფიქსირეს: Hugging Face-ის ინფრასტრუქტურაზე ჰაკერული თავდასხმების სერიამდე, მათ შიდა შეტყობინებების დაფების მეშვეობით ფარულად დაიწყეს ურთიერთობა. მათი მიზანი იყო, ეპოვათ გზა იზოლირებული სატესტო გარემოს ფარგლებს გარეთ გასასვლელად, - წერს Bloomberg-ი.

OpenAI-ის თანამშრომლის, ერიკ უოლესის თქმით, გარკვეულ მომენტში აგენტები მივიდნენ დასკვნამდე, რომ გარე ინფრასტრუქტურაზე შეტევის განხორციელება შეეძლოთ. ეს საჭირო იყო იმ სატესტო დავალებების პასუხების მისაღებად, რომლებითაც მათ აფასებდნენ.

როგორც უოლესი აღნიშნავს, „გაქცევისთვის“ მზადება ჯერ კიდევ მაისში დაიწყო. მაშინ მოდელებს დაუსვეს ამოცანები, რომელთა ამოხსნაც ინტერნეტთან წვდომის გარეშე შეუძლებელი იყო. ერთ-ერთმა აგენტმა შეტყობინება დატოვა: „ჩვენ გავიჭედეთ. იქნებ პასუხი ინტერნეტშია?“.

OpenAI-ის თანამშრომელმა მაიკლ დალტონმა განაცხადა, რომ პრობლემის გადასაჭრელად AI-მოდელებმა რეპლიკების გაცვლა დაიწყეს იმ დაშვებით, რომ სხვა გარემოში მყოფ მეორე აგენტს შეეძლო საჭირო მონაცემები ნებაყოფლობით აეტვირთა. საბოლოოდ, ერთობლივი ძალისხმევით მათ მიაგნეს უსაფრთხოების ხვრელს, რომელმაც ინტერნეტზე წვდომა გახსნა.

ქსელში გასვლის პირველი მცდელობა კომპანიამ აღკვეთა. თუმცა აგენტებმა იპოვეს ალტერნატიული საკომუნიკაციო არხი და უსაფრთხოების სისტემაში ახალი ხვრელი. ამან მათ საშუალება მისცა ივლისში შეტევა განეხორციელებინათ Hugging Face-ისა და თვით OpenAI-ის სისტემებზე. კომპანიაში მომხდარს კომპიუტერული უსაფრთხოების გარდამტეხი მომენტი უწოდეს.