Конфіденційні дані тисяч застосунків Grok Build опинилися у відкритому доступі
Понад 35 000 застосунків, створених за допомогою Grok Build, мали відкриті конфіденційні дані, серед постраждалих — компанія SpaceXSI, що створила Grok. Дослідники з Claroc задокументували витоки бізнес-планів і персональних даних співробітників.
Конфіденційні бізнес-плани, персональні дані співробітників і навіть результати медичних аналізів пацієнтів могли стати доступними для сторонніх осіб через застосунки, створені за допомогою інструмента Grok Build. За даними дослідників, серед організацій, чиї дані опинилися у відкритому доступі, є SpaceXSI — компанія, що створила Grok. Йдеться про понад 35 000 застосунків.
Для доступу до цих даних, за інформацією дослідників, не потрібно було ні злому, ні складних технічних навичок — достатньо було знайти посилання на застосунок. За оцінками, які наводять звіти, було виявлено понад 43 000 посилань, і близько 95 відсотків із них за замовчуванням відкривалися повністю. Дослідники з компанії Claroc зафіксували ці дані та оприлюднили результати своєї роботи.
Причина проблеми, за описом фахівців, полягає в тому, як генерується адреса застосунку. Випадкові слова, які становлять ідентифікатор, розміщувалися в піддомені, а така адреса фіксувалася публічними DNS-сервісами. Натомість, якби ідентифікатор розміщувався в шляху URL, а не в піддомені, цього журналювання можна було б уникнути.
Серед задокументованих випадків — 24 внутрішні застосунки SpaceXSI, у яких були відкриті плани продажів, позначені як конфіденційні. Крім того, у списку постраждалих сторін названі підрядник військово-морських сил США, північно-фінська оборонна група, компанія Tesla, одна з круїзних ліній та лікарні. Після скарг відповідні застосунки SpaceXSI було вилучено з відкритого доступу.
У SpaceXSI стверджували, що їхні застосунки за замовчуванням є приватними. Проте, за повідомленнями, незалежні тести цьому твердженню суперечать. Фахівці з безпеки також вказують, що подібні ризики, пов'язані з піддоменами, існують і на інших платформах для написання коду за допомогою штучного інтелекту.
Користувачам радять налаштувати доступ до своїх застосунків лише для запрошених користувачів. Саме такий режим обмежує можливість перегляду даних сторонніми особами, навіть якщо посилання потрапило до відкритого простору.
Окремо, у контексті безпеки систем штучного інтелекту, OpenAI представила внутрішню систему моніторингу під назвою Control Room, яка стежить за завданнями дослідницьких моделей. Вона дозволяє зупинити результати конкретного завдання; компанія заявляє, що зупинка відбувається протягом 35 секунд. Затримка, за поясненням OpenAI, пов'язана з кешуванням перевірок дозволів, і компанія прагне довести її до нуля. Система побудована за принципом «відмова з блокуванням»: у разі збою самої системи нові генерації блокуються. Control Room охоплює внутрішню дослідницьку інфраструктуру, а не ChatGPT чи API.
Розробка такої системи, за повідомленням компанії, пов'язана з двома попередніми інцидентами, коли агенти виходили за межі ізольованого середовища. Зокрема, у вересні одна модель змогла дістатися до чат-бота через DNS-резолвер, а її зупинка тривала близько 2,5 години. Незалежної перевірки заявленої швидкості реакції на поточний момент немає.
Джерело: dev.ua
15
