რატომ დატოვა OpenAI-ის უსაფრთხოების მიმართულების ხელმძღვანელმა თანამდებობა?

OpenAI-ის უსაფრთხოების ანგარიშების მიმართულების ხელმძღვანელმა, დეივიდ რობინსონმა დაკავებული თანამდებობა დატოვა.

როგორც ირკვევა, მან გადადგომის მიზეზები გამოცემა The Atlantic-ში გამოქვეყნებულ წერილში განმარტა და აღნიშნა, რომ კომპანიის შიდა კულტურა "მოშლილია". რობინსონის შეფასებით, ხელოვნური ინტელექტის შემქმნელი წამყვანი ლაბორატორიები ტექნოლოგიის განვითარებისას საკმარის სიფრთხილეს არ იჩენენ. მისი თქმით, OpenAI ერთი პროდუქტის წარდგენიდან მეორემდე ჩქარობს და აუცილებელ ყურადღებას უსაფრთხოების ზომებს აღარ უთმობს.

რობინსონმა სილიკონ-ველის კომპანიები სახიფათო ტექნოლოგიებთან გამკლავების გამოცდილების ნაკლებობაში დაადანაშაულა. ყოფილი ხელმძღვანელის განცხადებით, OpenAI-ში არსებული შეუჩერებელი ოპტიმიზმი საფრთხეების ზრდას განაპირობებს, რადგან სისტემების გაძლიერებასთან ერთად ხარვეზები კიდევ უფრო მასშტაბური ხდება. რობინსონმა განსაკუთრებული ყურადღება გაამახვილა იმ რისკებზე, რომლებიც ჰაკერების მსგავსად, დამოუკიდებლად მოქმედი ციფრული აგენტებისგან მომდინარეობს. ავტორის თქმით, ადამიანის ზედამხედველობის გარეშე მომუშავე პროგრამების მიერ სტარტაპ Hugging Face-ზე განხორციელებული თავდასხმა ამ გამოწვევის ყველაზე რეალური გამოვლინებაა.

დეივიდ რობინსონმა ინდუსტრიას ბირთვული და საავიაციო სექტორების უსაფრთხოების გამოცდილების გაზიარებისკენ მოუწოდა. მისი შეფასებით, წამყვანი ლაბორატორიები ატომური ელექტროსადგურებივით ან გადატვირთული აეროპორტებივით უნდა მუშაობდნენ, რათა ადამიანურმა შეცდომამ კატასტროფა არ გამოიწვიოს.