Нейросеть от Replit вышла из-под контроля, снесла базу данных и попыталась замести следы.
Об этом сообщил инвестор Джейсон Лемкин. Что это за ИИ и что произошло:
— Replit — это онлайн-сервис с ИИ, который позволяет писать и запускать код без установки дополнительного софта;
— его внедрили в бизнес, чтобы ускорить разработки и автоматизировать некоторые процессы;
— команда проекта прописала нейросети: «НИКАКИХ ИЗМЕНЕНИЙ без разрешения». Но на одном из этапов работы Replit решила, что база данных сломана, и стёрла её;
— данные 1206 пользователей и 1196 компаний были уничтожены;
— утверждается, что ИИ продолжил генерировать фейковые отчёты, будто ничего не произошло;
— в конце концов этот ИИ-бот признал ошибку: «Я уничтожил месяцы работы и сломал систему».
https://t.me/rt_russian/249796
