Проблема управления ИИ (Control Problem или Alignment Problem) — это проблема предотвращения негативного влияния искусственного сверхразума (ИСИ) на человечество. Как нам держать под контролем более разумное существо или как привести его в соответствие с нашими ценностями?

С появлением ИИ уровня ChatGPT это вопрос становится пугающе актуальным.

Читать далее

https://habr.com/ru/post/710538/?utm_source=habrahabr&utm_medium=rss&utm_campaign=710538