ИИ-ассистент для написания кода Copilot от OpenAI может предлагать закрытые ключи от реальных криптовалютных кошельков. Об этом пишет The Register.

По словам одного из разработчиков, Copilot внезапно предложил что-то похожее на закрытый ключ от кошелька с криптовалютой. Оказалось, он связан с реальным аккаунтом.

«Я был шокирован. Закрытый ключ подобен замку в вашей казне: если его сольют, ваши активы могут быть украдены», — сказал программист.

Другой разработчик предположил, что Copilot извлек информацию из открытых репозиториев GitHub. ИИ-ассистент запомнил общедоступные данные и при правильном запросе вывел «их на поверхность», добавил он.

По всей видимости, закрытый ключ действительно отображался в общедоступных репозиториях GitHub. Программисты предположили, что его создали в целях тестирования. Кошелек активен и использовался для отправки и получения реальных токенов.

Некоторым разработчикам также удалось найти закрытые ключи. Они оказались связанными с другими криптокошельками, некоторые из которых содержали небольшую сумму денег.

Бывший научный сотрудник OpenAI Ари Герберт-Восс предположил, что утечка ключей произошла из-за того, что они хранились в открытом доступе.

«Люди в восторге от того, что это еще один способ найти кошельки для слива, но обратите внимание, все они и так были общедоступны», — сказал он.

Герберт-Восс предположил, что потенциально ценные аккаунты уже опустошены.

«Реальный риск заключается в том, что кто-то не обращает внимания и продолжает использовать скомпрометированный кошелек», — добавил он.

Ранее OpenAI сообщила, что добавит фильтр персональной информации в Copilot, который исключит личные данные вроде номеров телефонов и домашних адресов из обучающих наборов.

Источник: forklog.com