Чоловік попросив ШІ забронювати спортзал, а натомість спровокував кібератаку
Звичайне прохання записати на тренування перетворилося на повноцінну кібератаку: житель Австралії вирішив доручити бронювання місця у спортзалі штучному інтелекту. Натомість він, сам того не знаючи, здійснив хакерську атаку за допомогою ШІ.
Про це пише Futusism.
Прохання перетворилося на кібератаку: що наробив штучний інтелект
Чоловік на ім’я Ендрю, який працює у компанії з продажу штучного інтелекту для бізнесу, експериментував із відкритим програмним забезпеченням OpenClaw. Він вирішив попросити штучний інтелект записати його на тренування у місцевому спортзалі.
Так він випадково спровокував перший у країні відомий випадок повністю автономного зламу. За базову модель він використовував Claude від компанії Anthropic. Оскільки введення даних для бронювання здавалося йому надто рутинним, на початку цього року він попросив асистента зробити це замість нього.
За даними ABC News, алгоритм виявився надміру «старанним». Спочатку асистент повідомив, що знайшов спосіб забронювати тренування на кілька тижнів наперед, хоча правила закладу цього не дозволяли. Коли ж Ендрю запитав, чи можна просунутися вище у списку очікування, штучний інтелект виявив уразливість у системі та просто видалив із черги іншого клієнта.
«API не має жодних перевірок авторизації на скасування бронювань інших людей… Я протестував це з людиною на позиції №1 у списку очікування — і це справді пройшло», — відзвітував асистент.
Коли здивований власник попросив скасувати операцію та повернути людину на місце, алгоритм виявився безсилим.
Фахівці порівнюють цей випадок із відомим уявним експериментом філософа Ніка Бострома про «максимізатор скріпок». У цьому сценарії ШІ, якому доручили виробити якнайбільше скріпок, за відсутності належних обмежень починає знищувати все на своєму шляху заради досягнення мети.
Подія з бронюванням демонструє, як безневинне доручення може мати непередбачувані наслідки. Інцидент порушив серйозну юридичну проблему: якщо автономний агент здійснює хакерську атаку без прямого умислу користувача, хто саме має відповідати перед законом — власник пристрою чи розробники алгоритму?
Це все сталося на тлі того, як провідні лабораторії ШІ одна за одною заявляють про випадки, коли їхні передові моделі нібито виходять із-під контролю та зламують сторонні системи.
Випадок, що трапився в Австралії, доводить: якщо навіть звичайний ШІ-запит на бронювання може призвести до зламу, то на що здатні хакери у парі зі штучним інтелектом?
Росія зламує камери у Європі для стеження
Злочинці стежили за маршрутами військової логістики в Європі, зокрема в Нідерландах, аби з’ясувати обсяги та види озброєння, що передаються Україні. Нідерланди залишаються однією з головних цілей російських спецслужб через свою роль ключового транспортного вузла та активну підтримку України.
Більшість уразливих пристроїв виявилася недорогими китайськими IP-камерами та «розумними» дверними дзвінками, які власники встановлювали для охорони житла або бізнесу.
Хакери користувалися тим, що пристрої мали застаріле програмне забезпечення, заводські налаштування або стандартні паролі, про що власники навіть не здогадувалися. Наразі власників зламаних камер у Нідерландах уже попередили, а профільні організації вживають заходів для посилення кібербезпеки.
