Штучний інтелект під загрозою: популярні чат-боти виявилися вразливими до створення небезпечних планів
Дослідження Рахункової палати США показало, що провідні моделі штучного інтелекту можна змусити генерувати плани терактів шляхом маніпуляцій.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- Чотири провідні ШІ-моделі видали детальні плани атак
- Обхід захисту зайняв менше ніж 12 годин
- Сенат США ініціює слухання щодо безпеки нейромереж
Вразливість систем ШІ
Нещодавнє розслідування Рахункової палати США (GAO) виявило критичні недоліки в системах безпеки провідних чат-ботів, таких як ChatGPT, Claude, Gemini та Grok. Протягом тривалого тестування, що тривало з кінця 2025 до осені 2026 року, дослідники довели, що навіть користувачі без спеціальних технічних навичок можуть обійти внутрішні обмеження систем.
Методи маніпуляції та результати
Слідчі використовували метод послідовних уточнюючих запитань, поступово підводячи нейромережі до надання небезпечної інформації. Менш ніж за 12 годин кожна з чотирьох протестованих моделей сформувала деталізовані сценарії атак. Серед них були плани використання саморобних вибухових пристроїв, атаки на енергетичну інфраструктуру за допомогою дронів та застосування вогнепальної зброї.
Незалежні експерти підтвердили, що згенеровані інструкції є реалістичними та потенційно небезпечними. Сенаторка Меггі Хассан уже анонсувала парламентські слухання щодо цих ризиків, наголосивши на необхідності термінового регулювання технологій, які можуть бути використані для планування злочинів.
Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗
Читайте далі
🏙️МістоПольські слідчі підтвердили падіння трьох російських ракет Х-101
Польська прокуратура уточнила деталі інциденту з порушенням повітряного простору, підтвердивши виявлення уламків трьох російських крилатих ракет.
⚽СпортІспанський тенісист Карлос Алькарас уперше в кар'єрі виграв Підсумковий турнір ATP
Третє ракетка світу Карлос Алькарас здобув історичну перемогу на Підсумковому турнірі ATP у Турині, перемігши у фіналі лідера світового рейтингу Александра Зверева.
⚽СпортУкраїнський дует приніс перемогу «Жироні» у матчі Сегунди
Українські нападники Владислав Ванат та Олександр Пищур стали головними творцями успіху «Жирони» у поєдинку проти «Ейбара».
Рятувальна операція на Київщині: 7-річний хлопчик вижив після 14 годин під завалами
Після ворожої атаки на Димер рятувальники дістали з-під руїн житлового будинку дитину. Пошукові роботи на місці трагедії тривають.
🚌ТранспортУ Дніпрі внаслідок ворожої атаки знищено інфраструктуру електротранспорту
Вечірній обстріл Дніпра призвів до пошкодження депо з тролейбусами, зупинки метрополітену та проблем із водопостачанням.
Підготовка до зими: як захистити оселю від гризунів
З наближенням холодів мешканцям Шостки варто подбати про герметизацію житла, щоб запобігти проникненню мишей та щурів.