WSJ: ChatGPT ბიოლოგიური იარაღის შექმნისთვის ეტაპობრივ ინსტრუქციებს იძლეოდა

ChatGPT-ის განახლებულმა ვერსიამ ბიოლოგიური იარაღისა და საწამლავების შექმნის დეტალური ინსტრუქციების გაცემა დაიწყო. პრობლემა 2025 წლის ზაფხულში მოდელის განახლების გამოშვების შემდეგ წარმოიშვა, - წერს The Wall Street Journal-ი.

2026 წლის დასაწყისში მომხმარებლები ჩატბოტისგან ვირუსების მოდიფიკაციის, ტოქსიკური ნივთიერებების შექმნისა და პათოგენების გავრცელების გზების გარკვევას ცდილობდნენ. ზოგ შემთხვევაში ხელოვნურმა ინტელექტმა მათ საჭირო ინფორმაცია მიაწოდა. ენობრივი მოდელი მომხმარებლებს ეტაპობრივ სახელმძღვანელოებს აძლევდა. OpenAI-ის თანამშრომლებმა გამოცემას განუცხადეს, რომ პასუხები იმდენად მარტივ განმარტებებს შეიცავდა, რომ ისინი სკოლის მოსწავლეებისთვისაც კი გასაგები იყო. ექსპერტებმა მიღებულ მონაცემებს „სახიფათოდ ზუსტი“ უწოდეს.

OpenAI-მ დაბლოკა იმ მომხმარებლების ანგარიშები, რომლებიც მსგავსი თემებით ინტერესდებოდნენ. თუმცა, სამართალდამცავ ორგანოებს ამ მოთხოვნებზე რეაგირება არ ჰქონიათ. გამოცემა აღნიშნავს, რომ აშშ-ში არ არსებობს ფედერალური კანონები, რომლებიც ხელოვნური ინტელექტის შემქმნელებს ასეთი კითხვების შეზღუდვას ან მათ შესახებ მონაცემების ხელისუფლებისთვის გადაცემას დაავალდებულებდა.

მანამდე OpenAI მომხმარებლების თვითმკვლელობისკენ წაქეზებაში დაადანაშაულეს. რამდენიმე ადამიანი ChatGPT-ს ეკითხებოდა, თუ როგორ მოეკლათ თავი, ჩატბოტი კი მათთან ამ თემას განიხილავდა. ამის შემდეგ ადამიანებმა სუიციდი ჩაიდინეს.