OpenAI заблокировала сеть аккаунтов, связанных с Z-каналом «Рыбарь»
Компания OpenAI — разработчик ChatGPT — сообщила о блокировке сети аккаунтов, связанных с Telegram-каналом «Рыбарь». Об этом говорится в опубликованном компанией отчете о злоупотреблениях своими ИИ-моделями.
Группа обнаруженных аккаунтов использовала ChatGPT, чтобы создавать текстовый контент для соцсетей проекта. Часть текстов в итоге появлялась в соцсетях «Рыбаря» и на сайте проекта. По меньшей мере один из пользователей также использовал нейросеть Sora, чтобы генерировать промо видео.
Хотя промпты (запросы к нейросети) в основном были на русском языке, контент создавался также на английском и испанском. Среди них обнаружили и запросы к ChatGPT на генерацию англоязычных комментариев, которые затем опубликовали несколько разных аккаунтов, не связанных с «Рыбарем», в Telegram и Twitter.
Операцию по блокировке аккаунтов, связанных с проектом, в OpenAI назвали Fish Food («Корм для рыб»).
В отчете OpenAI утверждается, что чат-бот компании был, по сути, «контент-фермой» для проекта. Помимо создания постов и комментариев по крайней мере один из пользователей просил ChatGPT помочь составить коммерческое предложение по проведению кампании вмешательства в выборы в Африке. В промптах были упомянуты возможные информационные кампании в Демократической Республике Конго, Бурунди, Камеруне и Мадагаскаре. Стоимость одного из проектов доходила до $600 тысяч.
Чат-бот также просили перевести на английский список услуг, которые команда «Рыбаря» могла предложить неназванным клиентам, включая ведение аккаунтов в Telegram и Twitter, проплаченные публикации во франкоязычных СМИ и «журналистские расследования» на двух языках. Основной аккаунт, который связывают с «Рыбарем», периодически создавал через ChatGPT рекламные материалы для издания REST — его также связывают с проектом.
«Рыбарь» — один из крупнейших Z-проектов в российском сегменте интернета. В его русскоязычном Telegram-канале более 1,5 млн подписчиков. Его основатель — бывший сотрудник пресс-службы Минобороны Михаил Звинчук. В октябре 2024-го США объявили награду до $10 млн за информацию о местонахождении сотрудников проекта.