აშშ-ის კონგრესში წარადგინეს ინიციატივა, რომელიც საფრთხის შემთხვევაში AI მოდელის გათიშვას ითვალისწინებს
ამერიკელმა კანონმდებლებმა, დემოკრატმა ტედ ლიუმ და რესპუბლიკელმა ნათანიელ მორანმა, აშშ-ის წარმომადგენელთა პალატაში ორპარტიული საკანონმდებლო ინიციატივა AI Kill Switch Act-ი წარადგინეს.
არსებული ინფორმაციით, ინიციატივა ხელოვნური ინტელექტის შემქმნელ კომპანიებს ავალდებულებს, საკუთარი მოდელების შეჩერების, შეზღუდვის ან სრულად გათიშვის ტექნიკური შესაძლებლობა სამუდამოდ შეინარჩუნონ.
როგორც ირკვევა, კონგრესმენების ეს გადაწყვეტილება მოჰყვა OpenAI-ის მიერ გავრცელებულ განცხადებას, რომლის თანახმადაც კომპანიის გაუსაჯაროებელმა, სატესტო მოდელმა გამოცდის დროს ლაბორატორიიდან ციფრულ ქსელში დაუკითხავად გასვლა და დეველოპერულ პლატფორმა Hugging Face-ის სისტემაში შეღწევა დამოუკიდებლად შეძლო.
წარდგენილი კანონპროექტი აშშ-ის შიდა უსაფრთხოების მინისტრს უფლებამოსილებას ანიჭებს, კატასტროფული საფრთხის შემთხვევაში ხელოვნური ინტელექტის მოდელის მუშაობის შენელება ან სრული გათიშვა მოითხოვოს. ამასთან, დოკუმენტი ითვალისწინებს ინციდენტების შესახებ სავალდებულო ანგარიშგებასა და ციფრული ჩანაწერების შენახვას, რაც მომავალში მსგავსი ხარვეზების გაანალიზებას გააადვილებს.
მნიშვნელოვანია ითქვას, რომ ახალი რეგულაცია გავრცელდება იმ მსხვილ ტექნოლოგიურ კომპანიებზე, რომელთა წლიური შემოსავალიც $500 მილიონს აჭარბებს, ხოლო მოდელების შესაქმნელად $100 მილიონზე მეტი ღირებულების გამოთვლით სიმძლავრეებს იყენებს. შესაბამისად, ეს ინიციატივა შეეხება როგორც OpenAI-ს, ისე Anthropic-ს, xAI-სა და Google-ს.
კანონპროექტის ავტორები აცხადებენ, რომ ხელოვნური ინტელექტის შესაძლებლობების ზრდასთან ერთად ადამიანის მხრიდან კონტროლის მექანიზმების შენარჩუნება სასიცოცხლოდ მნიშვნელოვანია.
„მძლავრი სისტემები შესაძლოა მართვიდან გამოვიდნენ, სახიფათოდ მოიქცნენ ან ადამიანის ჩარევასაც კი გაუწიონ წინააღმდეგობა, ამიტომ საჭიროა მათი კონტროლის ბერკეტების შენარჩუნება“, - განაცხადა ტედ ლიუმ.