Британские эксперты допустили потерю контроля над ИИ в течение пяти лет

Авторы доклада считают возможным появление за этот срок «сверхразумных» систем, способных превзойти людей при решении почти всех важных интеллектуальных задач. При этом они подчеркивают: речь идет не о прогнозе, а об одном из возможных сценариев.

По оценке экспертов, превосходство ИИ в стратегически важных областях может усилить давление на организации, чтобы те передавали системам право принимать решения. Если ИИ начнет предлагать стратегии, которые люди не смогут должным образом оценить, и действовать быстрее, чем организации успеют отреагировать, значимый контроль со стороны человека может исчезнуть.

Возможность создания неподконтрольного человеку ИИ недавно допустил генеральный директор американской компании OpenAI, разработчика ChatGPT, Сэм Альтман. Незадолго до этого генеральный директор американской технологической корпорации Anthropic Дарио Амодеи предложил компаниям замедлить разработку самых мощных моделей ИИ. По его мнению, согласованное замедление позволит выиграть один-два года до того, как модели достигнут критического уровня развития.

Источник: ТАСС