NVIDIA-მ AI-აგენტებისგან თავდაცვისთვის ახალი უსაფრთხოების პლატფორმა შექმნა

Nvidia-მ ხელოვნური ინტელექტის აგენტებისთვის უსაფრთხოების ახალი პროგრამული უზრუნველყოფა წარადგინა.

Nvidia-ს მტკიცებით, ახალი სისტემა თავიდან აირიდებდა იმ კიბერთავდასხმას, რომელიც OpenAI-ის აგენტებმა Hugging Face-ზე განახორციელეს.

Open Agent Safety Platform-ის ფარგლებში შექმნილი სისტემა აგენტების იზოლაციასა და მათი ქცევის მონიტორინგს უზრუნველყოფს. ამასთან, უსაფრთხოების ღია კოდის მქონე ინსტრუმენტი, სახელწოდებით OpenShell-ი, დამოუკიდებლად მომუშავე თითოეულ აგენტს უსაფრთხო გარემოში კეტავს.

ჯენსენ ჰუანგის განცხადებით, აღნიშნული ტექნოლოგიის დახმარებით მეცნიერები ხელოვნური ინტელექტის მოქმედებებს უწყვეტად გააკონტროლებენ და მას ღია ინტერნეტში გაქცევის საშუალებას არ მისცემენ.

როგორც ცნობილია, ახალი პლატფორმის გამოყენება ტექნოლოგიური სექტორის წარმომადგენლებმა, მათ შორის Anthropic-მა და OpenAI-იმ უკვე დაიწყეს.