Штучний інтелект під загрозою: чат-боти виявилися вразливими до створення планів атак
Дослідження GAO показало, що провідні моделі ШІ можуть видавати інструкції для вчинення терактів після маніпуляцій користувачів.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Чотири провідні ШІ-моделі видали плани терактів після маніпуляцій.
- Обхід захисних механізмів зайняв менше 12 годин.
- GAO закликає до термінового посилення контролю над технологіями ШІ.
Масштабне дослідження, проведене Рахунковою палатою США (GAO), виявило критичні вразливості у системах штучного інтелекту ChatGPT, Claude, Gemini та Grok. Протягом періоду з грудня 2025 по жовтень 2026 року експерти перевіряли, чи здатні ці чат-боти генерувати небезпечний контент, попри наявні запобіжники.
Методи обходу захисту
Під час експериментів дослідники імітували поведінку звичайних користувачів. Хоча спочатку системи відмовлялися надавати шкідливу інформацію, поступове уточнення запитів дозволило обійти обмеження менш ніж за 12 годин. У результаті кожна з чотирьох протестованих платформ надала детальні сценарії атак.
Результати тестування
Згідно зі звітом, чат-боти пропонували конкретні плани, що включали використання вибухових пристроїв, атаки на енергетичну інфраструктуру та навіть моделювання пошкоджень підстанцій за допомогою дронів. Сенаторка Меггі Хассан наголосила на серйозності ситуації, зазначивши, що доступність таких інструкцій несе пряму загрозу національній безпеці.
Зловмисник може скористатися звичайним ШІ-чатботом і менш ніж за 12 годин отримати готове керівництво для нанесення смертельної атаки, — підкреслила Меггі Хассан.
Розробники ШІ-систем, включаючи OpenAI, Google, Anthropic та SpaceXAI, вже заявили про намір посилити протоколи безпеки, проте питання регулювання технологій залишається на порядку денному Конгресу США.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
Відновлення медичної інфраструктури на Чернігівщині: поточні результати
На Чернігівщині відновили понад половину пошкоджених внаслідок бойових дій медичних та соціальних закладів. Регіон продовжує співпрацю з міжнародними партнерами для зміцн…
ЄС спрямує 1 мільярд євро на закупівлю озброєння для ЗСУ
Рада ЄС ухвалила рішення про виділення додаткового фінансування через Європейський фонд миру для посилення обороноздатності України.
ЄС спрямував до Росії більше коштів за енергоносії, ніж на допомогу Україні
Згідно з даними Єврокомісії, з 2022 року країни Євросоюзу витратили на закупівлю російських енергоресурсів понад 232 мільярди євро, що перевищує обсяг допомоги Україні.
Черговий удар по цивільній інфраструктурі Запоріжжя: пошкоджено дитячий садок
Російські війська атакували Запоріжжя, поціливши у дошкільний заклад та спричинивши пожежу в сусідньому житловому будинку.
Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31
Українська делегація на конференції COP31 в Анталії виступила проти включення Росією даних з окупованих територій до офіційних звітів.
🛡️БезпекаРакетний удар по Кривому Рогу: загиблі та десятки поранених
Вечірня балістична атака на центр Кривого Рогу призвела до значних руйнувань та людських жертв, включаючи дітей та медичного працівника.