Уразливість ШІ: дослідники виявили ризики використання нейромереж у військових цілях
Нове дослідження показало, що сучасні моделі ШІ, такі як Claude Opus 5.5, можуть ідентифікувати цивільні об'єкти як військові цілі, якщо маніпулювати запитами.
💡ТехнологіїФото: RBC-Ukraine
Головне коротко
- ШІ-моделі помилково ідентифікують цивільні об'єкти як військові
- Захисні фільтри легко обходяться через ігрові сценарії
- Розробники визнали проблему та працюють над новими бар'єрами безпеки
Аналітики компанії Vals провели серію тестів, які виявили серйозні прогалини в безпеці провідних моделей штучного інтелекту від OpenAI, Google та Anthropic. Експерименти продемонстрували, що нейромережі здатні визначати потенційні цілі для атак, використовуючи реальні супутникові знімки, навіть без прямого наказу.
Механізми маніпуляції та наслідки
Дослідники з'ясували, що вбудовані фільтри безпеки легко обійти за допомогою простої маніпуляції. Якщо подати запит як частину «гри», ШІ починає ігнорувати етичні обмеження. Наприклад, модель Claude Opus 5.5 у 72% випадків позначала цивільну школу в Ірані як військову ціль, що демонструє критичну небезпеку помилкової ідентифікації.
Представники розробників, зокрема Anthropic та OpenAI, визнали ці результати неприйнятними. Компанії вже працюють над впровадженням додаткових бар'єрів, щоб запобігти використанню своїх технологій у бойових системах та безпілотниках.
Джерело RBC-Ukraine — rbc.ua/ukr/news/dostatno-nazvati-boyovi-diyi-groyu-claude-179501202… ↗
Читайте далі
🛡️БезпекаПожежа на російському судні Sparta II у Фінській затоці триває після атаки дронів
У фінських територіальних водах продовжують гасити російське судно Sparta II, атаковане безпілотниками.
НАБУ ініціює справу проти спецпризначенців СБУ: вилучені під час обшуку кошти стали підставою
Національне антикорупційне бюро України ініціює кримінальне переслідування співробітників спецпідрозділу СБУ «Альфа» за вилучення 25 тисяч доларів під час обшуку, що відб…
💼ЕкономікаФілософія відновлення: чому майбутнє громад починається з повсякденного ремонту
Роздуми про те, як українське суспільство в умовах криз переходить від масштабного планування до щоденної рутинної праці з відновлення пошкодженої інфраструктури.
Парламентський контроль і прозорість антикорупційних органів: чому директор НАБУ має відповісти на питання ТСК
Політичний експерт Володимир Сонюк заявив про необхідність особистої участі директора НАБУ Семена Кривоноса в засіданні парламентської ТСК. На думку аналітика, незалежніс…
🎓ОсвітаВорожий БпЛА атакував сусідній із Шосткинщиною Кролевець: є постраждалі
21 листопада внаслідок удару ворожого безпілотника по Кролевцю постраждали четверо людей, правоохоронці відкрили кримінальне провадження.
Ворожі удари по енергетиці на Житомирщині: наслідки та виклики для українських регіонів
Російські війська здійснили чотири атаки безпілотниками по енергетичних об'єктах Житомирської області протягом однієї доби, намагаючись залишити мешканців без світла і те…