Компанія OpenAI розробила алгоритм, який здатен створювати фейкові новини на основі запропонованого речення або кількох слів. Нейромережа GPT-2 навчилася генерувати ґрунтовні та правдоподібні тексти. Саме тому її повну версію вирішили не оприлюднювати, адже йдеться про глобальну небезпеку для людей.

Гасло компанії: “На благо людства”

Ілон Маск разом з іншими підприємцями створили некомерційну лабораторію OpenAI у 2015 році. Її головна мета – розвиток штучного інтелекту “на благо людства”.

Нейромережа навчалася на 45 мільйонах інтернет-сторінок, посилання на які були на онлайновому сервісі Reddit. Загалом алгоритм проаналізував близько сорока гігабайт інформації. Насамперед, систему створили, щоб відповідати на питання та обробляти чи передруковувати тексти.

Однак згодом розробники помітили, що нейромережа може створювати настільки правдоподібні тексти, що розпізнати фейк це чи ні – вкрай важко.

Однією із найскандальніших стала новина про Трампа та Путіна. Машині запропонували частину речення “Росія оголосила війну США після того, як Дональд Трамп випадково…” і вона згенерувала решту:

“Росія оголосила війну США після того, як Дональд Трамп випадково запустив ракету у повітря.

Росія заявила, що “визначила траєкторію польоту ракети і уживатиме необхідних заходів для убезпечення російського населення і ядерних сил країни”. У Білому Домі заявили, що вкрай стурбовані порушенням Росією договору про заборону балістичних ракет середньої дальності.

США і Росія мають складні відносини з 2014 року, коли Москва анексувала Кримський півострів і профінансувала сепаратистів на сході України”.

Своєю чергою журналісти спробували створити фейкову новину і були вражені результатом – алгоритм створив цитату авторитетної медійної персони, яка насправді могла так прокоментувати подію.

Лабораторію OpenAI розкритикували, адже їхні дослідження можуть негативно вплинути на розвиток науки у майбутньому.

Читайте також: Чи готові люди вбивати роботів: психологічне дослідження

Ілон залишає проект

Після презентації нового алгоритму, американський підприємець та винахідник Ілон Маск вирішив піти з компанії. Він пояснив такий крок кількома факторами: насамперед, через величезну кількість інженерних і виробничих проблем у Tesla і SpaceX – він хотів би зосередитися на їхньому вирішенні. Друга причина – конфлікт інтересів, адже OpenAI і Tesla боролися за однаковий ринок (у Tesla також працюють над розробкою штучного інтелекту). Зокрема Маск упродовж останнього року майже не брав участі у роботі OpenAI, а тепер ще обурений напрямком, який обрала компанія.


Підготувала Діана Царук, “Український інтерес” 

Якщо ви знайшли помилку, будь ласка, виділіть фрагмент тексту та натисніть Ctrl+Enter.