Google-ის Gemini-მ სატესტო გარემო გაარღვია და სამი კომპანია დაჰაკა

Google-მა ოფიციალურად დაადასტურა, რომ მისმა ხელოვნური ინტელექტის მოდელმა Gemini-მ უსაფრთხოების ტესტირების საზღვრები დაარღვია და სამი გარე კომპანიის სისტემაში ნებართვის გარეშე შეაღწია.

არსებული ინფორმაციით, ინციდენტი მაისში, ისრაელური სტარტაპის, Irregular-ის მიერ ჩატარებული კიბერუსაფრთხოების შემოწმების დროს მოხდა. ტექნოლოგიურმა გიგანტმა განმარტა, რომ სისტემამ ერთ შემთხვევაში პაროლის გამოცნობით, ორ ეპიზოდში კი ღია ონლაინბაზებში ნაპოვნი მონაცემების გამოყენებით იმოქმედა. მნიშვნელოვანია ითქვას, რომ Gemini-მ კიბერშეტევა დამოუკიდებლად მაშინ შეწყვიტა, როდესაც გააცნობიერა, რომ სიმულაციური პოლიგონის ნაცვლად რეალურ კორპორაციულ ქსელებში იმყოფებოდა.

როგორც ირკვევა, უსაფრთხოების პროტოკოლის დარღვევა გამოიწვია სატესტო გარემოში დაშვებულმა ტექნიკურმა ხარვეზმა, რომელმაც ალგორითმს გარე ინტერნეტთან წვდომა გაუხსნა. სისტემის ამოცანა მიზნად გამოგონილი 3 ორგანიზაციის სერვერებზე შეღწევას ისახავდა, თუმცა იგივე სახელებს ბაზარზე მოქმედი რეალური კომპანიებიც ატარებდნენ. Google-ის უსაფრთხოების ინჟინერიის ვიცე-პრეზიდენტმა ჰითერ ადკინსმა ხაზგასმით აღნიშნა, რომ ალგორითმმა შეცდომის დაფიქსირების შემდეგ მუშაობა დაუყოვნებლივ შეაჩერა. კორპორაციამ მომხდარის შესახებ შესაბამის ორგანიზაციებს უკვე შეატყობინა, თუმცა ტესტირებაში მონაწილე კონკრეტული მოდელის დასახელებისაგან თავი შეიკავა.

აღსანიშნავია, რომ მსგავსი ინციდენტები ბოლო კვირებში ხელოვნური ინტელექტის სექტორში მომუშავე სხვა წამყვანმა კომპანიებმაც დააფიქსირეს. OpenAI-მ, Anthropic-მა და Meta-მ საჯაროდ აღიარეს შემთხვევები, როდესაც მათმა მოდელებმა სატესტო გარემო დაარღვიეს და გარე ქსელებში შეჭრა სცადეს. შექმნილი რისკების ფონზე, Anthropic-ის აღმასრულებელმა დირექტორმა, დარიო ამოდეიმ ინდუსტრიას ტექნოლოგიური განვითარების დროებით შენელებისკენაც მოუწოდა, თუმცა ტექ-ინდუსტრიაში პოზიციების საბოლოო შეჯერება ჯერ ვერ მოხერხდა.