Чернобыль 2.0: ошибка, которую никто не сможет отменить
Нобелевский лауреат Джеффри Хинтон предупредил, что ИИ может спровоцировать катастрофу уже в ближайшие годы. Нас может ждать Чернобыль 2.0.
Только в Чернобыле операторы ошиблись в условиях, которые сама система сделала непонятными и опасными. С искусственным интеллектом риск схожий: нейросеть способна принять решение, которое человек просто не успеет объяснить, проверить или отменить. И если алгоритм ошибётся в управлении энергосетью, финансами или транспортом, это может стать аварией государственного масштаба. Одна ошибка - и сбой мгновенно распространяется на миллионы людей.
Проблема не в том, что машины «захотят» навредить. Проблема в том, что люди всё чаще доверяют им то, чем раньше управляли сами.
