Технологии ИИ как риск и шанс: три угрозы и три точки будущего - только с механизмами контроля

Рашкин Илья, основатель и генеральный директор, ООО "ЭМ РУС" (бренд EVM).

Конференция ЦИПР 2026, «Цифровая индустрия промышленной России». Организатор компания ООО «ОМГ».

В выступлении очень чётко выстроена логика двойного отношения к технологическому развитию: с одной стороны, оно ускоряет прогресс, с другой — усиливает уязвимость человечества. Главная мысль здесь не в том, что технологии сами по себе «хорошие» или «плохие», а в том, что масштаб их влияния уже стал цивилизационным. Поэтому разговор идёт не просто о трендах, а о том, какие процессы определят границы безопасности, развития и даже самой человеческой автономии.

В части угроз акцент сделан на трёх больших рисках. Первый — глобальные конфликты, которые тормозят развитие и несут системный риск в условиях современных вооружений. Второй — биологические угрозы: опыт пандемии показал, насколько уязвимым может быть мир перед сценариями, которые раньше казались маловероятными. Третий — технологический риск выхода систем из-под контроля, то есть ситуация, когда когнитивные и интеллектуальные инструменты начинают развиваться быстрее, чем человек способен их осмыслить и ограничить. Здесь важен именно не страх перед ИИ как таковым, а страх перед потерей управляемости.

Но в выступлении есть и сильная конструктивная часть: те же самые направления, которые несут угрозы, рассматриваются как главные источники будущего роста. ИИ понимается как инструмент, открывающий новые возможности и позволяющий делать то, что раньше было невозможно. Нейроинтерфейсы при этом выглядят как следующий порог человеческого развития, хотя отношение к ним осторожное: сначала нужна понятная безопасность и доказанная польза. Это показывает не технофобию, а прагматичный подход — расширять возможности человека только там, где риск уже не перевешивает эффект.

Отдельно выделяется тема автоматизации и автономных систем. Здесь речь идёт не просто о роботах, а о глубокой перестройке производственной базы экономики. Гуманоидные и другие новые формы роботов рассматриваются как один из ключевых промышленных драйверов ближайших лет. В этой логике автоматизация — не частный секторный тренд, а основа того, как будет организовано производство, труд и распределение функций между человеком и машиной.

Завершающий смысловой блок связан с космосом и мультипланетарным будущим. Космические технологии описываются как направление, которое расширяет горизонт человечества: больше выводить на орбиту, больше исследовать, дальше летать. В сумме это создаёт довольно цельную картину: будущее видится не как выбор между прогрессом и опасностью, а как необходимость научиться управлять собственными инструментами развития. Именно поэтому ключевой вывод выступления — технологический рывок должен сопровождаться механизмами контроля, иначе даже самые сильные достижения могут превратиться в источник новой нестабильности.