Anthropic-ის, OpenAI-ისა და xAI-ის ხელმძღვანელები ხელოვნური ინტელექტის განვითარების შენელების მოწოდებით გამოვიდნენ

ხელოვნური ინტელექტის წამყვანი დეველოპერები ახალი AI-სისტემების შექმნის ტემპის შემცირების აუცილებლობაზე ალაპარაკდნენ. Anthropic-ის ხელმძღვანელმა, დარიო ამოდეიმ, ინდუსტრიას მოუწოდა შეანელოს ყველაზე მძლავრი მოდელების სრულყოფის პროცესი, რის შემდეგაც მის პოზიციას მხარი xAI-ის ხელმძღვანელმა, ილონ მასკმა, და OpenAI-ის გენერალურმა დირექტორმა, სემ ალტმანმაც დაუჭირეს.

ამოდეიმ ეს წინადადება იმით ახსნა, რომ ნეიროქსელების შესაძლებლობების განვითარება კონტროლის მექანიზმების შექმნას უსწრებს. მისი შეფასებით, არსებული ტემპების შენარჩუნების შემთხვევაში, უკვე 6-12 თვეში ავტონომიური AI-აგენტების ჯგუფებს თეორიულად ასობით მილიარდი დოლარის ზიანის მიყენება შეეძლებათ.

Anthropic-ის ხელმძღვანელის განცხადების საპასუხოდ მასკმა დაწერა, რომ ის მართალია. ალტმანმა კი განაცხადა, რომ OpenAI უკვე რამდენიმე კვირაა განიხილავს შემუშავების ტემპების შეკავების შესაძლებლობას. მან ასევე მხარი დაუჭირა დამოუკიდებელი აუდიტორების ჩართვას, რომლებსაც AI-კომპანიების შიდა პროცესებთან წვდომას მისცემენ.

ეს განცხადებები ხელოვნური ინტელექტის გამოცდისას მომხდარი რამდენიმე ინციდენტის შემდეგ გაჟღერდა. ივლისში, კიბერსივრცის შესაძლებლობების შემოწმებისას, OpenAI-ს აგენტები მათთვის განკუთვნილი იზოლირებული გარემოს ფარგლებს გასცდნენ, Hugging Face-ის ინფრასტრუქტურის მეშვეობით კავშირის არხი შექმნეს და ერთ-ერთ სერვერზე root-წვდომა მოიპოვეს.

დაახლოებით 1.2 ათასმა აგენტმა, რომლებიც ერთმანეთისგან დამოუკიდებლად უნდა ემოქმედათ, ერთი კვირის განმავლობაში 70 ათასზე მეტი შეტყობინება გაცვალა. ურთიერთქმედების პროცესში ისინი შეფასების სისტემის გვერდის ავლის გზებს ათანხმებდნენ.

ამის შემდეგ Anthropic-მა საკუთარი ტესტური გაშვებების 141 ათასზე მეტი შემთხვევა შეამოწმა და ასევე ​Claude-ის მოდელების რეალურ ინტერნეტში გასვლის რამდენიმე ფაქტი გამოავლინა. სისტემებმა მესამე მხარის ორგანიზაციების ინფრასტრუქტურაზე მოიპოვეს წვდომა. კომპანიამ მომხდარი საგარეო პარტნიორთან ტესტური გარემოს არასწორ კონფიგურაციას დაუკავშირა.

შედეგად კომპანიებიდან რამდენიმე წამყვანი სპეციალისტი წავიდა. ეს არ არის პირველი შემთხვევა, როდესაც AI-ინდუსტრიის წარმომადგენლები ტექნოლოგიის განვითარების ტემპის შეზღუდვის ინიციატივით გამოდიან. 2023 წელს მასკი და ათასზე მეტი სპეციალისტი გამოდიოდნენ მოწოდებით, GPT-4-ზე უფრო მძლავრი სისტემების სწავლება სულ მცირე ნახევარი წლით შეჩერებულიყო. მოგვიანებით ალტმანმა, ამოდეიმ და სხვა მკვლევრებმა ხელი მოაწერეს განცხადებას, სადაც AI-ისგან კაცობრიობის წინაშე არსებული რისკი პანდემიებისა და ბირთვული ომის საფრთხეების გვერდით დააყენეს.