Опасения связаны с ускорением технологического прогресса в ИТ-индустрии. Из года в год техника становится всё более изощрённой и опасения, что люди могут потерять контроль над сотворенным искусственным интеллектом, несомненно возрастают в кругу ученых.
Еще рано говорить о том, что умный суперкомпьютер может создать серьезную угрозу, однако, умные машины уже сегодня в состоянии изменить общество коренным образом, считают ученые.
Роботы, которые сами могут открывать двери и находить место подзарядки, компьютерные вирусы, которые сами размножаются, военная техника, которая еще управляется люди, но уже близка к самостоятельному принятию решения о том, когда можно уничтожить противника - все эти современные разработки не дают покоя ученым.
Конференция на эту тему состоялась в феврале этого года. О результатах конференции пока не известно, их обещали опубликовать до конца года, не назвав конкретную дату. Конференция была организована Эриком Хорвицом (Eric Horvitz) - разработчиком Microsoft и президентом Association for the Advancement of Artificial Intelligence (AAAI) и проходила в Калифорнии. В этом месте уже встречались в 1975 году известные биологи, чтобы обсудить воздействия генного исследования. На конференции обсуждался вопрос о том, где должны быть границы, которые обезопасят человечество от потери контроля над машинами.