Федеральная торговая комиссия США (FTC) начала расследование в отношении OpenAI.
Представители ведомства выясняют, не нарушил ли производитель популярного чат-бота закон о защите прав потребителей (The Washington Post).
Американское издание утверждает, что в последнее время поступают тревожные сигналы об угрозах личной репутации граждан из-за действий ChatGPT.
В частности, приводится пример недавнего скандала, связанного с внесением профессора права Джонатана Терли в список ученых, которые подвергали студентов сексуальным домогательствам.
Профессор получил письмо по электронной почте, в котором его коллега-юрист из Калифорнии уведомлял его об этой обескураживающей новости. Выяснилось, что в рамках своего исследования юрист сделал запрос чат-боту, который в ответ и представил ему эту информацию.
Причем программа ChatGPT даже рассказала о пикантных подробностях инцидента, послуживших причиной включения профессора в список, выдумав событие, при котором это произошло.
Проблема была еще и в том, что чат-бот сослался в качестве подтверждения информации на… несуществующую статью в The Washington Post. То есть досталось и репутации издания.
История с профессором Джонатаном Терли еще раз подтвердила уже неоднократно упоминавшиеся претензии к генеративному искусственному интеллекту (ИИ), который ради подтверждения заведомо ложной информации способен искажать факты и даже подделывать первоисточники для аргументации своих утверждений.
Все эти «проделки» ИИ могут иметь уже куда более серьезные последствия в сравнении с добавлением лишних конечностей в рисунках человека, чем неоднократно «грешила» программа ChatGPT.
The Washington Post отмечает, что искусственный интеллект часто опирается на контент, взятый из таких источников, как Википедия и Reddit. Поэтому представленная информация может быть не всегда правдивой, но правдоподобной.
Издание приводит пример и профессора USC Кроуфорд, с которой недавно связался журналист по рекомендации той же ChatGPT. Дело в том, что для написания статьи ИИ предложил примеры ее несуществующих работ, включая выдуманные цитаты…
В предыдущих статьях я уже рассказывал о так называемых «галлюцинациях» искусственного интеллекта — предоставлении программой контента, скомпилированного из надлежащей и фейковой информации. Программа это делает так умело, что непрофессионалу трудно идентифицировать «фальшивку».
Сегодня в значительной степени нерегулируемое программное обеспечение искусственного интеллекта, такое как, например, ChatGPT, Microsoft Bing или Google Bard, имеет склонность генерировать и распространять потенциально опасную ложную информацию. При этом нет стороны, ответственной за то, что чат-боты вводят кого-то в заблуждение.
Тот же Bard мелким шрифтом печатает под каждым запросом: «Bard может отображать неточную или оскорбительную информацию, которая не отражает точку зрения Google».
В своем заявлении представитель OpenAI Нико Феликс отметил, что повышение фактической точности является важным для компании направлением, в котором она добивается прогресса.
Федеральная торговая комиссия США направила в адрес OpenAI двадцатистраничный запрос о возможных рисках для граждан из-за действий программы ChatGPT.
Пока сложно сказать, чем вызвана такая атака FTC и издания The Washington Post на OpenAI: реальными угрозами со стороны прогрессирующего ИИ или действиями конкурентов, программы которых этот генеративный искусственный интеллект отодвинул на второй план?
Компания попала под пристальное внимание функционеров FTC, которые уже налагали крупные штрафы за предполагаемые нарушения законов о защите прав потребителей на таких ИТ-монстров, как Meta*, Amazon и Twitter.
У OpenAI могут быть серьезные неприятности, если она не сможет доказать, что предприняла все необходимые действия для защиты репутации и данных граждан.
Мы будем следить за развитием событий.
* Компания признана экстремистской, и ее деятельность запрещена в России.
