Сильный искусственный интеллект поместился в доктрину, но еще не заручился одобрением государства
ВЭФ-2025. На фото: генеральный директор АО "Фонд "Кристалл роста" Александр Крутиков (фото ComNews)
3 сентября на ВЭФ-2025 генеральный директор АО "Фонд "Кристалл роста" Александр Крутиков рассказал, что фонд активно исследует искусственный интеллект с момента основания в начале 2024 г.: "Мы разработали доктрину развития сильного ИИ в России и готовы обсуждать ее с экспертами и деловыми кругами. Развитие технологий неразрывно связано с вопросами безопасности человека и общества".
Александр Крутиков отметил, что с середины 2010-х гг. ИИ превзошел человека в ряде когнитивных задач, но это лишь имитация интеллекта. "Современные языковые модели угадывают слова, пиксели и звуки на основе обучения, но пока не могут ставить цели, обучаться и понимать контекст. Это только начало пути к сильному ИИ, который сможет обобщать знания, адаптироваться к задачам и понимать абстракции. Для этого нужна в тысячи раз более эффективная вычислительная инфраструктура, - считает Александр Крутиков. - Рост патентной активности в мире показывает, что технологии, такие как фотонные вычисления, нейроморфная архитектура и мультиагентные системы, могут стать основой сильного ИИ. Лидеры в этой области - Китай и США, где доминируют Google и Nvidia".
Александр Крутиков продолжил: "С 2024 г. рост инвестиций в слабый ИИ не увеличивает его полезность, и этот путь исчерпан. Однако он будет продолжаться еще несколько лет, давая инвесторам надежду. Этот рост зафиксировал Роспатент в последние два года. Перед Россией стоит выбор: продолжать инвестировать в слабый ИИ или сделать ставку на сильный ИИ, используя наши достижения в фотонике и математической школе. Это потребует меньших вложений, чем попытка догнать лидеров в слабом ИИ. Мы убеждены, что России нужна новая доктрина сильного ИИ".
Александр Крутиков обозначил три ключевых компонента новой доктрины:
1. Опережающее развитие технологического стека сильного ИИ. Создание инфраструктуры на принципах фотоники с нейроморфной архитектурой. Россия уже имеет фундаментальные заделы и может запустить такую инфраструктуру в ближайшие два года. Однако государство пока не уделяет этому достаточного внимания.
2. Создание национальной системы разметки данных для обучения ИИ. Пока такой системы нет, она существует только на корпоративном уровне. Без нее ИИ будет обучаться на чужих данных, что угрожает когнитивному суверенитету России.
3. Определение базовых прав человека в отношениях с ИИ и их защита законом. Когнитивная неприкосновенность человека должна быть гарантирована. Мыслительные процессы и сигналы нервной системы должны быть объектом правовой охраны. Использование нейроинтерфейсов возможно только с добровольного и информированного согласия. Критически важные функции ИИ должны запускаться после подтверждения двумя независимыми субъектами. Контент, созданный ИИ, должен быть обязательно маркирован.
https://www.comnews.ru/content/240867/2025-09-01/2025-w36/1002/krolikii-skachut-batute
Александр Крутиков также считает, что необходимо создать регулятора безопасности в сфере ИИ: "Пока такой функции в государственной политике нет. Это должен быть отдельный орган с полномочиями лицензирования мощности фабрик ИИ, проведения аудита и блокировки опасных внедрений".
По другую сторону ВЭФ-2025
На вопрос корреспондента ComNews, нужна ли в России отдельная доктрина для развития ИИ, cтарший разработчик систем искусственного интеллекта ООО "Инностейдж" (Innostage) Александр Лебедев ответил следующим образом: "Лучший способ найти самый эффективный инструмент - это посмотреть на те, что уже успешно работают. Была ли в США государственная ИИ-доктрина, когда они создали ChatGPT, Claude Sonnet, Gemini, Midjourney и т.д.? А у Китая с DeepSeek, Qwen и т.д.? Это все результат работы частных компаний на свободном рынке, которые сильно нацелены на результат и эффективность. Регулирование от государства догоняет реальность, рефлексируя случившийся технологический прорыв, но не создает его. Гиганты неповоротливы и медлительны, зато хорошо обеспечивают порядок и формируют устои. Бежать впереди всех - это работа не для гиганта. А самый большой гигант - это государство. Бежать быстрее всех должны маленькие и голодные, предприниматели и стартаперы. Государство должно следить за порядком и обновлением устоев, но оно играет вторым номером, адаптируясь к тому, чего достигли "разведчики" - маленькие стартапы, из которых 99% погибнет, но 1% выживших будет действительно полезен и изменит мир".
https://www.comnews.ru/content/238779/2025-04-14/2025-w16/1002/chelovechestvo-rasputii
Технический директор ООО "МД Аудит" (MD Audit - ГК Softline) Юрий Тюрин назвал темпы развития сильного ИИ в России стартовыми: "Есть отдельные заделы в фотонике, математических школах и архитектуре вычислений, но до целостной экосистемы еще далеко. С тезисами Александра Крутикова можно согласиться в том, что ставка на сильный ИИ логична: догонять лидеров в слабом ИИ практически невозможно, а развитие технологических направлений открывает шанс занять уникальную нишу. Особенно важен акцент на национальной системе данных, так как именно она станет ключом к когнитивному суверенитету и независимости обучения моделей".
Также Юрий Тюрин считает, что отдельная доктрина необходима: "Она формирует долгосрочную повестку и позволяет увязать усилия государства, науки и бизнеса. Помимо технологического стека, разметки данных и защиты прав человека, в нее стоило бы добавить вопросы подготовки кадров, стимулирования научных исследований и создания инфраструктуры для тестирования и сертификации ИИ-систем. Важно также предусмотреть механизмы международного сотрудничества в области этики и безопасности ИИ, чтобы российские разработки были конкурентоспособными и признанными на глобальном уровне".
Генеральный директор ООО "Лаборатория Наносемантика" Сабина Спирина говорит, что концепцию сильного искусственного интеллекта, который выступает своеобразным мостом между прикладным ИИ и амбициозной целью AGI (сильного ИИ), можно охарактеризовать вершиной технологий: "Эволюция интеллекта в этой парадигме выходит на качественно новый уровень. Мы говорим о системах, способных не просто обрабатывать данные, а осмыслять контекст и оперировать информацией с грацией, сопоставимой с человеческими когнитивными способностями, - и все это в рамках заданных архитектур. Несмотря на впечатляющий прогресс в области ИИ, сильный ИИ остается пока гипотетической целью. Это не просто следующий шаг в развитии технологий - это фундаментальный прорыв, требующий решения сложнейших технических и философских задач".
Секретарь Консорциума исследований безопасности технологий искусственного интеллекта Дмитрий Служеникин напомнил, что многие задачи в части ИИ распределены между существующими федеральными органами исполнительной власти (ФОИВ), и особенно много задач реализует Минцифры России. Дмитрий Служеникин отметил, что также существует национальный проект "Экономика данных и цифровая трансформация государства", реализация которого началась 1 января 2025 г. и продлится до конца 2030 г. В рамках него есть отдельный федеральный проект "Искусственный интеллект": "Минцифры для реализации данного федерального проекта получило дополнительные полномочия в сфере развития ИИ. Есть сложное направление обеспечения доверия и безопасности технологий ИИ, где не определен ответственный ФОИВ, поэтому оптимальным будет наделение соответствующими полномочиями и обязанностями по данному направлению кого-либо из профильных существующих ведомств".
Справка ComNews
Обновленные полномочия Минцифры России:
- регулирование в сфере разработки и применения ИИ-технологий;
- координация разработки и внедрения ИИ-технологий в госуправлении;
- определение мер поддержки ученых и разработчиков (гранты, доступ к мощностям и т.д.);
- организация реализации комплекса мер по формированию дата-сетов для ИИ;
- содействие повышению информированности граждан об ИИ-решениях;
- укрепление международного сотрудничества в области ИИ-решений;
- аналитика для правительства по вопросам внедрения ИИ.
Простой ИИ (Narrow AI)
Разработан для выполнения конкретных задач в ограниченной области.
Некоторые его особенности:
- Не обладает самосознанием и не способен к обобщению знаний для решения проблем, которые не предусмотрены его алгоритмами.
- Работает только в рамках заданных функций. Например, может распознавать речь, переводить текст с одного языка на другой, делать рекомендации по контенту в интернете.
- Не может выйти за пределы запрограммированных функций. Например, если ИИ обучен распознавать лица, он не сможет без специального обучения решать задачи, связанные с анализом звуков или данных из финансовой сферы.
Примеры: голосовые помощники (Siri, Google Assistant или "Алиса"), системы обработки естественного языка (NLP).
Сложный ИИ (Artificial General Intelligence, AGI)
Способен понимать, учиться и решать задачи так же, как это делает человек, вне зависимости от конкретной области. Некоторые его особенности:
- Универсальность - система умеет работать с разными типами данных: текстовыми, звуковыми, изображениями, таблицами.
- Адаптивность - AGI должен уметь адаптироваться к ранее неизвестным задачам без значительных изменений в работе.
- Способность к самообучению. Этот навык позволит адаптироваться к решению сложных и ранее неизвестных задач, а также обеспечит постоянное развитие системы без вмешательства специалистов.
