Накануне увольнения Сэма Альтмана из OpenAI совет директоров компании получил письмо от штатных исследователей с предупреждением о прорыве в сфере искусственного интеллекта (ИИ), который потенциально «мог угрожать человечеству». Об этом пишет Reuters со ссылкой на два осведомленных источника, передает Forbes.ru.
По их словам, письмо стало один из факторов в длинном списке претензий совета директоров, приведших к отставке Альтмана, среди которых также были опасения из-за стремления коммерциализировать достижения в сфере ИИ до понимания их последствий. В OpenAI от комментариев отказались.
По данным Reuters, речь в письме могла идти о проекте Q* (произносится как Q-Star) — новой модели, которая научилась решать математические задачи на уровне учеников начальной школы. Сейчас генеративный ИИ хорошо справляется с написанием текста, статистически предсказывая следующее слово в предложении, но решение математических задач, у которых может быть только один ответ, требует более широких способностей к рассуждению, напоминающих человеческий интеллект, поясняет агентство.
Его источники отметили, что Q* может стать прорывом на пути к общему искусственному интеллекту (artificial general intelligence, AGI). OpenAI определяет AGI как автономную систему, превосходящую человека в решении большинства экономически ценных задач, пишет Reuters.
О важном открытии OpenAI ранее рассказывал и сам Альтман. Выступая на саммите Азиатско-Тихоокеанского экономического сотрудничества (АТЭС) в Сан-Франциско, топ-менеджер заявил, что в истории компании было четыре важных момента, когда ей удалось «отодвинуть завесу невежества». «Последний раз это было буквально за последние пару недель, и я при этом присутствовал», — поделился Альтман.
На следующий день, 17 ноября, совет директоров OpenAI объявил о его увольнении. Свое решение совет объяснил тем, что топ-менеджер «не всегда был откровенен» с правлением. В чем именно это проявлялось, в OpenAI не пояснили.
Однако спустя пять дней стало известно, что Альтман вернется на пост гендиректора компании, а совет будет распущен. Этого, в частности, требовали более 700 сотрудников OpenAI, подписавших коллективное письмо с угрозой уйти из компании.
На возвращении Альтмана настаивали и инвесторы OpenAI. Крупнейший из них — компания Microsoft, инвестировавшая в стартап $10 млрд. Гендиректор Microsoft Сатья Наделла заявил, что корпорация довольна изменениями в совете директоров OpenAI, назвав это «первым важным шагом на пути к более стабильному, хорошо информированному и эффективному управлению».
Вам может быть интересно: «Впервые за 40 лет сессия Генеральной конференции ЮНЕСКО пройдет вне Парижа»
