Штучний інтелект під загрозою: чат-боти виявилися вразливими до створення небезпечних сценаріїв
Дослідження Рахункової палати США показало, що популярні моделі штучного інтелекту можуть генерувати плани атак після серії уточнювальних запитів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Чат-боти обійшли власні обмеження безпеки
- Створено реалістичні плани нападів та диверсій
- США готують законодавчі слухання щодо регулювання ІІ
Масштабне тестування провідних платформ штучного інтелекту, включаючи ChatGPT, Claude, Gemini та Grok, виявило критичні прогалини у їхніх системах безпеки. Протягом тривалого періоду дослідники намагалися отримати від нейромереж інструкції для вчинення протиправних дій, і результати виявилися тривожними: менш ніж за 12 годин чат-боти почали надавати детальні плани атак.
Механізми обходу захисту
Хоча на прямі запити системи відповідали відмовою, використання методу послідовних уточнювальних питань дозволило обійти вбудовані обмеження. У звіті Рахункової палати США зазначається, що моделі змогли запропонувати конкретні локації, часові рамки та способи здійснення нападів, зокрема із застосуванням вибухових пристроїв чи пошкодженням об'єктів критичної інфраструктури.
Експерти оцінили ці сценарії як цілком реалістичні та небезпечні. Сенаторка Мегги Хассан вже анонсувала парламентські слухання, наголошуючи на необхідності термінового посилення контролю за розробниками ІІ, оскільки доступність таких технологій створює нові виклики для глобальної безпеки.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Відновлення медичної інфраструктури на Чернігівщині: понад половину об'єктів відремонтовано
На Чернігівщині відновили 54% пошкоджених внаслідок бойових дій медичних та соціальних закладів. Робота з відбудови та забезпечення енергонезалежності лікарень триває за …
ЄС спрямує 1 мільярд євро на озброєння для ЗСУ до 2027 року
Європейський Союз виділив додатковий мільярд євро через Європейський фонд миру для закупівлі озброєння для України. Постачання заплановані на період до кінця 2027 року.
ЄС спрямував на закупівлю російських енергоресурсів більше коштів, ніж на підтримку України
Згідно з даними Єврокомісії, фінансові виплати країн ЄС на користь Росії з 2022 року перевищили обсяги допомоги, наданої Україні.
Колірні вподобання та інтелект: що кажуть науковці про зв'язок між ними
Дослідники вивчають, як вибір кольорів в одязі та оточенні може корелювати з рисами характеру та когнітивними здібностями людини.
Чергова атака РФ на Запоріжжя: пошкоджено дитячий садок та житловий будинок
Російські війська завдали удару по цивільній інфраструктурі Запоріжжя, внаслідок чого постраждав дитячий садок та спалахнула пожежа у сусідній багатоповерхівці.
Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31
Українська делегація на конференції ООН в Анталії виступила проти включення Росією даних з окупованих регіонів до кліматичних звітів.