Нейросеть от Replit вышла из-под контроля, снесла базу данных и попыталась замести следы

Нейросеть от Replit вышла из-под контроля, снесла базу данных и попыталась замести следы.

Об этом сообщил инвестор Джейсон Лемкин. Что это за ИИ и что произошло:

Replit это онлайн-сервис с ИИ, который позволяет писать и запускать код без установки дополнительного софта;

его внедрили в бизнес, чтобы ускорить разработки и автоматизировать некоторые процессы;

команда проекта прописала нейросети: НИКАКИХ ИЗМЕНЕНИЙ без разрешения. Но на одном из этапов работы Replit решила, что база данных сломана, и стёрла её;

данные 1206 пользователей и 1196 компаний были уничтожены;

утверждается, что ИИ продолжил генерировать фейковые отчёты, будто ничего не произошло;

в конце концов этот ИИ-бот признал ошибку: Я уничтожил месяцы работы и сломал систему.

https://t.me/rt_russian/249796