Кейтлін Каліновскі заявила про недостатнє обговорення в компанії використання ШІ у секретних мережах оборони.

Керівниця напрямку робототехніки та споживчого обладнання OpenAI Кейтлін Каліновскі оголосила про відставку. Причиною стала угода компанії з Міністерством оборони США щодо використання моделей штучного інтелекту в секретних хмарних мережах. Каліновскі заявила, що рішення ухвалили без достатнього обговорення можливих ризиків, передає Reuters.

За словами Каліновскі, OpenAI не приділила достатньо часу обговоренню перед тим, як погодитися на розгортання своїх моделей штучного інтелекту в секретних хмарних мережах Пентагону. Вона наголосила, що використання таких технологій потребує ширшої суспільної дискусії. Навіть генеральний директор OpenAI Сем Альтман через день після підписання угоди назвав це рішення “поспішним”.

“ШІ відіграє важливу роль у національній безпеці. Але стеження за американцями без судового нагляду та смертельна автономія без дозволу людини — це питання, які заслуговували на більше обговорення, ніж вони отримали”, — написала Каліновскі в соціальній мережі X.

У наступному дописі Каліновскі зазначила, що проблема пов’язана передусім із питанням управління всередині компанії. Вона додала: “Це занадто важливі питання, щоб поспішати з угодами чи оголошеннями”.

У OpenAI заявили, що угода з Пентагоном передбачає додаткові запобіжники щодо використання технологій. Компанія також повторила, що її “червоні лінії” забороняють застосування систем штучного інтелекту для внутрішнього спостереження або створення автономної зброї.

“Ми усвідомлюємо, що люди мають чітку позицію щодо цих питань, і будемо продовжувати вести діалог із працівниками, урядом, громадянським суспільством та громадами по всьому світу”, — йдеться у заяві компанії для Reuters.

Каліновскі приєдналася до OpenAI у 2024 році. До цього вона працювала в Meta Platforms, де керувала розробкою апаратного забезпечення для технологій доповненої реальності.

Источник: zn.ua