Іран та Росія використовують ChatGPT для поширення пропаганди
Компанія OpenAI оприлюднила інформацію про виявлення масштабних операцій впливу, в яких брали участь Іран та Росія, використовуючи штучний інтелект ChatGPT для створення фейкових журналістських персон. Ці операції мали на меті поширення пропагандистських матеріалів та інших зловмисних дій. Згідно з даними звіту, іранська кампанія отримала назву Bogus Bylines, в рамках якої було опубліковано або передруковано близько 100 статей у різних виданнях по всьому світу. Основна тематика цих статей стосувалася конфлікту між США та Іраном.
Використання ChatGPT в цій кампанії полягало не лише в написанні текстів, але й в адаптації їх під вимоги конкретних редакцій. Виконавці просили систему перевіряти англомовні чернетки відповідно до стандартів подання матеріалів у різних виданнях, а також пропонувати правки. Після цього ChatGPT формував електронні листи для редакторів, що значно спрощувало процес масового надсилання статей. Для створення видимості достовірності було вигадано сім фейкових журналістських осіб, які мали профілі у соціальних мережах.
Кампанія діяла через канали, якими редакції зазвичай отримують матеріали від позаштатних авторів. Наприклад, одна зі статей потрапила до газети Port St. Joe Star через організацію PeaceVoice, з якою видання співпрацювало тривалий час. Через цю довіру редактор не перевірив особу автора та походження тексту, що призвело до публікації фейкових матеріалів. OpenAI заблокувала акаунти, які брали участь у цій операції, та передала інформацію про них відповідним органам.
Крім того, OpenAI також зупинила діяльність пов’язаної з Росією кампанії Dark Clark, яка працювала в Латинській Америці, поширюючи сфабриковані аудіозаписи та вигадані історії. Обидві кампанії були визнані надзвичайно успішними у порівнянні зі звичайними спам-кампаніями, підкреслюючи важливість ретельної перевірки джерел та авторів матеріалів для редакцій.
