> ## Content Index
> Fetch the complete content index at: https://admin.kod.ru/llms.txt
> Use this file to discover other available public pages before exploring further.

# OpenAI могли создать сверхразумный ИИ, который угрожает человечеству
- URL: https://admin.kod.ru/openai-agi/
- Published: 2023-11-23T10:24:47.000Z
- Updated: 2023-11-23T10:24:47.000Z
- Description: Общий искусственный интеллект научился рассуждать.
- Author: Артур Климентьев
- Tags: Новости

Перед увольнением Сэма Альтмана из OpenAI несколько сотрудников компании предупредили совет директоров об обнаружении мощного искусственного интеллекта (AGI), который может угрожать человечеству, [сообщает](https://www.reuters.com/technology/sam-altmans-ouster-openai-was-precipitated-by-letter-board-about-ai-breakthrough-2023-11-22/?ref=admin.kod.ru) Reuters. 

OpenAI создали проект Q\* (произносится Q-Star). По мнению некоторых сотрудников, это прорыв области общего искусственного интеллекта — автономной системы, которая превосходит людей в самых экономически ценных задачах. 

Q\* уже сейчас может справляться с несложными математическими задачами, а это считается ключевым этапом в развитии общего ИИ. Обычный искусственный интеллект неплохо справляется с генерацией текста, где каждое последующее слово предсказывается. А в математических задачах подразумевается только один правильный ответ, поэтому их решение искусственным интеллектом означает, что у него появилась функция рассуждения, напоминающая таковую у человека. 

Сейчас Q\* способен решать математические задачи уровня начальных классов школы США. И в отличие от калькулятора, который может решать только ограниченное количество задач, Q\* может обобщать, учиться и понимать. 

Некоторые сотрудники OpenAI опасаются, что у компании нет мер безопасности для сдерживания общего ИИ. Другие боятся, что AGI может решить, что уничтожение человечества может быть в его интересах.