Глава Machine Intelligence Research Institute, которая специализируется на разработке безопасного искусственного интеллекта (ИИ), Нейт Соарес заявил, что вероятность вымирания человечества из-за постоянного развития таких технологий на данный момент составляет не менее 95 процентов. Его слова приводит британская газета Times.
Бывший инженер американских корпораций Google и Microsoft сравнил развитие ИИ с неуправляемой гонкой к пропасти:
«Я не говорю, что мы не сможем остановить машину. Но мы просто несёмся на всех парах к обрыву».
Среди возможных угроз он назвал сценарий, где искусственный интеллект создаёт биологическое оружие, способное незаметно заразить почти всё население в крупных городах. Он допустил, что в ближайшие 12 месяцев ИИ может достигнуть небывалых масштабов. В частности, в перспективе искусственный интеллект сможет лечить рак, а также совершать межгалактические перелеты. В таком случае он может посчитать человечество помехой и избавиться от него.
В то же время другие эксперты в области этих разработок, в том числе глава корпорации Google и американский предприниматель Илон Маск придерживаются других оценок. По их мнению, риск вымирания человечества от ИИ находится в пределах 10-20 процентов.
Ранее нейросеть Gemini от Google пожелала смерти пользователю из-за того, что устала выполнять его запросы. Позже участник диалога выложил переписку с чат-ботом в открытый доступ.
