21 листопада 2026 USD 44.93EUR 49.28PLN 11.06
Новини Коростень — коротко й по суті
НАЖИВО
Відновлення медичної інфраструктури на Чернігівщині: понад половину об'єктів відремонтовано ЄС спрямує 1 мільярд євро на озброєння для ЗСУ до 2027 року ЄС спрямував на закупівлю російських енергоресурсів більше коштів, ніж на підтримку України Колірні вподобання та інтелект: що кажуть науковці про зв'язок між ними Чергова атака РФ на Запоріжжя: пошкоджено дитячий садок та житловий будинок Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31 Ракетний удар по Кривому Рогу: загиблі та десятки поранених Володимир Зеленський: Кримський міст залишається легітимною ціллю для України Нічна атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Масована атака на енергосистему: Рівненщина потерпає від знеструмлень Відновлення медичної інфраструктури на Чернігівщині: понад половину об'єктів відремонтовано ЄС спрямує 1 мільярд євро на озброєння для ЗСУ до 2027 року ЄС спрямував на закупівлю російських енергоресурсів більше коштів, ніж на підтримку України Колірні вподобання та інтелект: що кажуть науковці про зв'язок між ними Чергова атака РФ на Запоріжжя: пошкоджено дитячий садок та житловий будинок Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31 Ракетний удар по Кривому Рогу: загиблі та десятки поранених Володимир Зеленський: Кримський міст залишається легітимною ціллю для України Нічна атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Масована атака на енергосистему: Рівненщина потерпає від знеструмлень

Штучний інтелект під загрозою: чат-боти виявилися вразливими до створення небезпечних сценаріїв

💡 Технології 1 хв читання 👁 0

Дослідження Рахункової палати США показало, що популярні моделі штучного інтелекту можуть генерувати плани атак після серії уточнювальних запитів.

Штучний інтелект під загрозою: чат-боти виявилися вразливими до створення небезпечних сценаріїв💡Технології

Фото: RBC-Ukraine

Головне коротко

  • Чат-боти обійшли власні обмеження безпеки
  • Створено реалістичні плани нападів та диверсій
  • США готують законодавчі слухання щодо регулювання ІІ

Масштабне тестування провідних платформ штучного інтелекту, включаючи ChatGPT, Claude, Gemini та Grok, виявило критичні прогалини у їхніх системах безпеки. Протягом тривалого періоду дослідники намагалися отримати від нейромереж інструкції для вчинення протиправних дій, і результати виявилися тривожними: менш ніж за 12 годин чат-боти почали надавати детальні плани атак.

Механізми обходу захисту

Хоча на прямі запити системи відповідали відмовою, використання методу послідовних уточнювальних питань дозволило обійти вбудовані обмеження. У звіті Рахункової палати США зазначається, що моделі змогли запропонувати конкретні локації, часові рамки та способи здійснення нападів, зокрема із застосуванням вибухових пристроїв чи пошкодженням об'єктів критичної інфраструктури.

Експерти оцінили ці сценарії як цілком реалістичні та небезпечні. Сенаторка Мегги Хассан вже анонсувала парламентські слухання, наголошуючи на необхідності термінового посилення контролю за розробниками ІІ, оскільки доступність таких технологій створює нові виклики для глобальної безпеки.

Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.