Языковая модель Google Bard AI учинила свой первый скандал

Сегодня компания как раз отмечает 25-летний юбилей, несмотря на то, что компания появилась 4 сентября, внутри компании днём рождения считается 27 сентября. И компания, похоже, вляпалась в новый скандал, который могут раздуть до небес.

Мы уже с вами привыкли к тому, что языковые модели пока не совершенны и несмотря на блокировку разного рода информации, пользователи находят лазейки и умудряются получить от языковой модели ответы на вопросы, содержащие конфиденциальную, техническую или особо ценную информацию. Вспомнить хотя бы случай, когда ChatGPT нагенерировала ключей активации для Windows. А что будет, если история вашего общения с ИИ станет доступна всем желающим?

Именно это и случилось с Bard AI от Google. Алгоритмы поиска Google ошибочно распознали чаты пользователей с языковой моделью, как сниппеты, краткое описание каких-либо страниц в интернете, и проиндексировала их. Но проблема бы не стоила бы выеденного яйца, если бы это были единичные случаи, но поисковик проиндексировал огромное количество этих чатов в периоде с начала июля 2023 года по текущий момент. Находятся они легко и просто: вам необходимо в поиске написать site:bard.google.com/share и поисковик выдаст огромное количество результатов.

Несмотря на то, что данные пользователя в переписке с ИИ скрыты, в чатах могут присутствовать личные данные, адреса или телефоны реальных людей, которых можно было бы опознать. Вряд ли кто-то в общении с ботом передавал данные своих документов или же платежные реквизиты, но столь большой выборке такое имеет хоть и низкий, но не нулевой процент вероятности.

Google признала факт индексации, заявив, что ошибка алгоритма была непреднамеренной и компания уже работает над её решением, но факт компрометации данных пользователей и их переписки остается фактов. Возможно, что это не последняя интересная “фишка” которой удивит нас Google Bard AI. Главное, чтобы подобные особенности были позитивными.