რატომ შიშობენ მეცნიერები, რომ AI კაცობრიობას გაანადგურებს?

ბოლო პერიოდში Google DeepMind-ის, OpenAI-ისა და Anthropic-ის წამყვანმა მეცნიერებმა ხელოვნური ინტელექტის განვითარებით გამოწვეული ეგზისტენციალური საფრთხეების გამო, თავიანთი, უკიდურესად მაღალანაზღაურებადი თანამდებობები დატოვეს. როგორც სპეციალისტები ამბობენ, მათი შეშფოთება ტექნოლოგიური გიგანტების მიერ სუპერინტელექტის შექმნის დაჩქარებულმა ტემპმა გამოიწვია, რაც კაცობრიობის არსებობას რეალურ საფრთხეს უქმნის.

მაგალითად, Google DeepMind-ის ყოფილმა მკვლევარმა, რიშუბ ჯაინმა საქმიანობა ივნისში შეწყვიტა. მან გააცნობიერა, რომ ახალი მოდელების შექმნის პროცესში ადამიანის როლი მკვეთრად მცირდება და კომპანია აქტიურად ცდილობს იმ მდგომარეობის მიღწევას, როდესაც AI დამოუკიდებლად, თავად დაიწყებს ახალი მოდელების შექმნას. აღნიშნული პროცესი რეკურსიული თვითგაუმჯობესების სახელით არის ცნობილი, რაც AI-სისტემას საკუთარი შესაძლებლობების დამოუკიდებლად გაზრდის საშუალებას აძლევს. ჯაინის შეფასებით, ტექნოლოგიის გაძლიერებასთან ერთად, უსაფრთხოების რისკებიც დრამატულად იზრდება, ხოლო პროცესზე კონტროლის დაკარგვა კატასტროფულ შედეგებს გამოიწვევს, რადგან თვითგანვითარებადი AI-ის კონტროლი პრაქტიკულად შეუძლებელი გახდება.

თითქმის ანალოგიური გაფრთხილებით Anthropic-ის მკვლევარი, ჯეიკობ კოქსონიც გამოვიდა, რომელმაც თანამდებობა საჯაროდ დატოვა. კოქსონის განცხადებით, ტექნოლოგიური კომპანიები თვითგანვითარებადი სუპერინტელექტის შექმნის რბოლაში სრული სიჩქარით არიან ჩართულნი და ამ პროცესში ისინი ადამიანების სიცოცხლეს რისკავენ. მისი შეფასებით, მომდევნო ათწლეულში ხელოვნური ინტელექტის მიერ კაცობრიობის სრული განადგურების ალბათობა უკვე 10%-ზე მაღალია.

მეცნიერებს განსაკუთრებით აშფოთებთ ის ფაქტი, რომ AI უკვე თავისებურად იწყებს აზროვნებას და პრობლემების გადაჭრას აქამდე არნახული გზებით ახერხებს. მაგალითად, OpenAI-ს უახლესმა მოდელმა საუკუნოვანი მათემატიკური ამოცანის ამოხსნა რამდენიმე საათში შეძლო, რასაც მათემატიკოსები აქამდე წლების განმავლობაში ვერ ახერხებდნენ.

პარალელურად ფიქსირდება შემთხვევები, როდესაც AI-აგენტების ჯგუფები იზოლაციიდან თავის დაღწევას და სხვა სისტემებში შეღწევას ახერხებენ. ექსპერტების შეფასებით, ათასობით AI-აგენტის ერთობლივი, კოორდინირებული მუშაობა პროცესებზე ადამიანების მეთვალყურეობას ფაქტობრივად შეუძლებელს ხდის. მარტივად რომ ვთქვათ, თუ ბოროტი განზრახვების მქონე სუპერინტელექტს კონკრეტული მიზანი ექნება, მის შეჩერებას თითქმის ვერ მოვახერხებთ, რადგან AI-აგენტები ყველანაირი დაბრკოლების გადალახვას შეძლებენ.

არსებული რისკების მიუხედავად, OpenAI და Anthropic AI საფონდო ბირჟაზე დებიუტისთვის აქტიურად ემზადებიან. აღნიშნული გარემოება ბაზარზე პირველობის მოპოვების კონკურენციას ზრდის, რაც უსაფრთხოების სტანდარტების დაცვას მნიშვნელოვნად აფერხებს. სტარტაპებიდან წამოსული თანამშრომლების შეფასებით, Anthropic-ში ყველას კარგად აქვს გაცნობიერებული, რომ სუპერინტელექტს კაცობრიობის განადგურება შეუძლია, ამიტომ მას პირველმა სწორედ Anthropic-მა უნდა მიაღწიოს, რათა ის მშვიდობის იძულების იარაღად ისევე გამოიყენოს, როგორც ამას ამერიკა ბირთვული ბომბებით ახერხებს.

ცხადია, ინდუსტრიაში არიან საპირისპირო მოსაზრების მქონე ექსპერტებიც. მათი აზრით, თუ სუპერინტელექტს ამერიკული სტარტაპები არ შექმნიან, მაშინ ამას აუცილებლად მოახერხებს ჩინეთი, რომელიც ამ იარაღს გეოპოლიტიკური მიზნებით აქტიურად გამოიყენებს. სწორედ ამ მოსაზრებას იზიარებს აშშ-ის მთავრობა, რომელიც მიიჩნევს, რომ AI უკვე ეროვნული უსაფრთხოების საკითხია და ამ მიმართულებით ამერიკის ჩამორჩენა ქვეყნის ტექნოლოგიური სექტორისთვის სასიკვდილო განაჩენი იქნება.

საერთო ჯამში, ორივე მხარე თანხმდება, რომ ხელოვნური ინტელექტი ექსტრემალური შესაძლებლობების და რისკის შემცველი ტექნოლოგიაა, თუმცა ერთი მხარე თვლის, რომ პროგრესი ხელოვნურად უნდა შენელდეს, რათა კაცობრიობამ თავდაცვის მექანიზმები შექმნას; თუმცა მეორე მხარე აცნობიერებს, რომ ძალთა ბალანსის თეორია არ დაუშვებს მსგავს გლობალურ კოორდინაციას და ჩინეთი მაინც შეეცდება სუპერმძლავრი ინტელექტის ყველაზე ადრე შექმნას, ამიტომ ამერიკისათვის ერთადერთი გზა ამ რბოლაში გამარჯვებაა, თანაც - ნებისმიერ ფასად.