რატომ გააკრიტიკა OpenAI-ის ყოფილმა თანამშრომელმა კომპანიის უსაფრთხოების პოლიტიკა?

ხელოვნური ინტელექტის უსაფრთხოების მკვლევარმა დევიდ რობინსონმა OpenAI-ში თანამდებობა დატოვა და კომპანიის მიდგომები მკაცრად გააკრიტიკა.

გამოცემა The Atlantic-ში გამოქვეყნებულ წერილში სპეციალისტი აღნიშნავს, რომ სწრაფ განვითარებაზე ორიენტირებული სამუშაო გარემო სისტემური ხარვეზების რისკს საგრძნობლად ზრდის. მკვლევარი კი მიიჩნევს, რომ ტექნოლოგიურ სექტორში ცდისა და შეცდომის მეთოდით მუშაობის დრო აღარ არის. რობინსონის შეფასებით, მოწინავე სისტემები მოითხოვს ისეთ მკაცრ დამცავ მექანიზმებს, როგორიც ავიაციისა და ბირთვული ენერგეტიკის დარგებში გამოიყენება.

კრიტიკისას დევიდ რობინსონი ყურადღებას კომპანიის მიერ არჩეულ ეტაპობრივი დანერგვის მოდელზე ამახვილებს. ეს მიდგომა სისტემების დაუყოვნებლივ გამოშვებას და უსაფრთხოების ზომების მხოლოდ პრობლემების გაჩენის შემდეგ გაძლიერებას ითვალისწინებს. რობინსონის მტკიცებით, ხელოვნური ინტელექტის შესაძლებლობების ზრდის ტემპი მკვლევრების მიერ სისტემების ადამიანურ ღირებულებებთან თანხვედრის შესწავლის პროცესს საგრძნობლად უსწრებს.

ცნობისთვის, OpenAI-ში მუშაობის პერიოდში მკვლევარმა მოდელების მზადყოფნის ჩარჩო დოკუმენტი შექმნა და ხელმძღვანელობის პერიოდში 12 მოწინავე მოდელის უსაფრთხოების ანგარიშს ამზადებდა. შესაბამისად, მათზე პასუხისმგებლობასაც ის იღებდა.

შეგახსენებთ, ბოლო პერიოდში ტექნოლოგიური კომპანიების მიერ მძლავრი სისტემების დაჩქარებული განვითარების ტემპები ფართო დისკუსიის საგანი გახდა. უსაფრთხოების კონტროლის ხარვეზებისა და ექსპერიმენტული სისტემების გაუთვალისწინებელი ქცევის გამო, OpenAI და მისი მეტოქე Anthropic-ი ავსტრალიის პარლამენტში უკვე დაიბარეს.