Перед увольнением Альтмана совет директоров OpenAI получил письмо об открытии, которое может угрожать человечеству

Источник: Reuters

Кратко: Перед решением уволить гендиректора OpenAI Сэма Альтмана совет директоров корпорации получил письмо от нескольких исследователей, в котором говорилось о «мощном открытии», которое, по их словам, может угрожать человечеству.

Быстро: 

• Очевидно, речь шла о проекте Q* (Q-Star), который является прорывом в создании общего искусственного интеллекта (AGI).

• Проект Q-Star якобы представлял собой нейросеть, которая может понимать окружающую среду как человек и выполнять любые интеллектуальные задачи.

• Соответственно, обучаясь, AGI может превзойти человека в решении большинства таких задач.

• По словам собеседника агентства, Q* способен решать математические задачи, хотя пока его способности находятся на уровне учеников начальных классов.

• Вышеупомянутое письмо стало лишь одним из поводов для увольнения Альтмана, которое совет директоров мотивировал тем, что он был с ними не всегда откровенным.

  
  

Важно: Агентству Reuters не удалось получить копию письма. Однако один из собеседников агентства сказал, что во внутреннем сообщении руководство признало наличие письма и работу над проектом Q* (Q-Star).

Авторы письма не уточнили, какие именно угрозы несет этот проект. Однако ученые давно говорят о некоторых угрозах, которые представляют высокоинтеллектуальные машины: например, могут ли они решить, что уничтожение человечества отвечает их интересам.