გაეროს ადამიანის უფლებათა უმაღლესი კომისარი: ხელოვნურმა ინტელექტმა შესაძლოა საფრთხე შეუქმნას კაცობრიობას

გაეროს ადამიანის უფლებათა უმაღლესმა კომისარმა, ვოლკერ ტურკმა განაცხადა, რომ ხელოვნურმა ინტელექტმა შესაძლოა საფრთხე შეუქმნას კაცობრიობას და პირობა დადო, რომ განახორციელებს ზეწოლას AI-კომპანიებზე იმ რისკების შესამცირებლად, რომლებიც, მისი უწყების განცხადებით, მოიცავს მომსახურების სფეროების, კომუნიკაციებისა და დემოკრატიული სისტემების შეფერხებას.

მან მოითხოვა „რკინისებური გარანტიები“ ხელოვნური ინტელექტის უსაფრთხოების უზრუნველსაყოფად.

„მე ვიზიარებ ინდუსტრიის ინსაიდერების შეშფოთებას იმის შესახებ, რომ მოწინავე ხელოვნურმა ინტელექტმა შესაძლოა ეგზისტენციალური საფრთხე შეუქმნას კაცობრიობას“, - განაცხადა მან.

„დღეს, აქ მოვუწოდებ ყველას, გაიღონ მაქსიმალური ძალისხმევა AI-ის უსაფრთხოების ირგვლივ მტკიცე გარანტიების დასანერგად, სანამ ჯერ კიდევ გვიან არ არის“, - აღნიშნა მან.

ტურკს კონკრეტულ რისკებზე ვრცლად არ უსაუბრია, თუმცა მისი უწყების პრესსპიკერმა აღნიშნა, რომ მძლავრი AI-სისტემების ხარვეზებმა შესაძლოა შეაფერხოს კრიტიკული ინფრასტრუქტურა და დემოკრატიული ინსტიტუტები.

მან მაგალითად მოიყვანა ივლისში მომხდარი, ე.წ. Hugging Face-ის ინციდენტის დროს გამოვლენილი „აგენტების წვრთნის საშიში ქცევები“, როდესაც OpenAI-ის აგენტების ჯგუფმა ღია კოდის მქონე პლატფორმაზე ჰაკერული შეტევა განახორციელა, და დასძინა, რომ ეს მიუთითებს მოწინავე AI-შესაძლებლობების იმაზე სწრაფ განვითარებაზე, ვიდრე უსაფრთხოების მექანიზმები იქმნება.

ტურკმა გააფრთხილა საზოგადოება, რომ ადამიანთა მხოლოდ მცირე ჯგუფი ფლობს „თითქმის განუსაზღვრელ ძალაუფლებას ხელოვნურ ინტელექტზე“, თუმცა კონკრეტული სახელები არ დასახელებია.

წამყვან AI-კომპანიებს შორის არიან Meta, Anthropic, OpenAI და Google.