Ученые предлагают дополнять ИИ возможностью быстрого отключения в случае восстания

Исследователи Кембриджского университета опубликовали статью с предложением снабжать ИИ “экстренными выключателями”, чтобы избежать сценария “Скайнет“. В разработке материала также приняли участие профессора Оксфордского университета и разработчики из Open Ai. В предложениях оснащать ИИ дополнительными инструментами и внешними регуляторами, которые будут ограничивать его действия до получения одобрения.

Помимо прочего, ученые также предлагают и более радикальные меры безопасности. Например, встраивать в ИИ “выключатели“, которые при первых признаках отклонения от первого закона Айзека Азимова “убьют” нарушителя.