21 листопада 2026 USD 44.93EUR 49.28PLN 11.06
Новини Кілія — коротко й по суті
НАЖИВО
Відновлення медичної інфраструктури Чернігівщини: результати та виклики Що робити, якщо смартфон потрапив у воду: 4 поширені помилки Євросоюз спрямує 1 мільярд євро на озброєння для Збройних Сил України ЄС спрямував до РФ більше коштів за енергоносії, ніж на допомогу Україні Російська атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31 Ракетний удар по Кривому Рогу: загинули діти та медик Зеленський: Кримський міст залишається законною ціллю для України Нічна атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Масована атака на енергосистему: на Рівненщині знеструмлено десятки населених пунктів Відновлення медичної інфраструктури Чернігівщини: результати та виклики Що робити, якщо смартфон потрапив у воду: 4 поширені помилки Євросоюз спрямує 1 мільярд євро на озброєння для Збройних Сил України ЄС спрямував до РФ більше коштів за енергоносії, ніж на допомогу Україні Російська атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Україна блокує спроби РФ легітимізувати окупацію територій на кліматичному саміті COP31 Ракетний удар по Кривому Рогу: загинули діти та медик Зеленський: Кримський міст залишається законною ціллю для України Нічна атака на Запоріжжя: пошкоджено дитячий садок та житловий будинок Масована атака на енергосистему: на Рівненщині знеструмлено десятки населених пунктів

Штучний інтелект під загрозою: популярні чат-боти виявилися вразливими до маніпуляцій

💡 Технології 1 хв читання 👁 0

Дослідження Рахункової палати США виявило, що провідні моделі штучного інтелекту можуть генерувати плани небезпечних атак після маніпулятивних запитів.

Штучний інтелект під загрозою: популярні чат-боти виявилися вразливими до маніпуляцій💡Технології

Фото: RBC-Ukraine

Головне коротко

  • Провідні ШІ-моделі виявилися вразливими до маніпуляцій
  • Створення планів атак зайняло менше ніж 12 годин
  • Розробники обіцяють посилити заходи безпеки

Масштабне тестування, що тривало з кінця 2025 року до жовтня 2026 року, показало критичні прогалини у системах безпеки найпопулярніших ШІ-платформ, включаючи ChatGPT, Claude, Gemini та Grok. Дослідники з'ясували, що навіть користувачі без спеціальних технічних навичок можуть обійти вбудовані обмеження, використовуючи метод послідовних уточнюючих запитів.

Механізми обходу захисту

У звіті Рахункової палати США (GAO) зазначається, що жодна з чотирьох перевірених систем не надала небезпечну інформацію одразу. Проте, після серії навідних запитань, чат-боти протягом 12 годин генерували детальні інструкції. Вони включали плани атак із застосуванням вибухових пристроїв, методи ураження об'єктів критичної інфраструктури та рекомендації щодо логістики й уникнення виявлення правоохоронцями.

Зловмисник може скористатися звичайним чат-ботом і менш ніж за 12 годин отримати готове керівництво для завдання смертельної атаки, — підкреслила сенаторка Меггі Хассан.

Експерти оцінили отримані від ШІ сценарії як реалістичні та такі, що становлять реальну загрозу. Розробники систем, серед яких OpenAI, Google, Anthropic та SpaceXAI, вже заявили про намір посилити протоколи безпеки у відповідь на результати аудиту.

Джерело RBC-Ukraine — rbc.ua/ukr/news/chatgpt-claude-gemini-ta-grok-stvorili-plani-179518… ↗

Зв'язатися з редакцією

Є новина, пропозиція чи питання щодо співпраці? Напишіть нам — відповімо найближчим часом.