Инновации без иллюзий

19 февраля, выступал в Государственной Думе на заседании, посвящённом правовому регулированию ИИ. На предыдущем заседании в декабре я уже говорил 🔗 о маркировке контента, интероперабельности и финансировании надзора. Рад, что бо́льшая часть моих предложений и замечаний вошла в финальный текст — в том числе соразмерность регулирования в зависимости от уровней риска конкретных применений ИИ и параметры маркировки сгенерированного контента, чтобы они максимально отвечали задачам информирования потребителей, учитывали задачи международных расследований киберпреступлений и минимально влияли на бизнес и качество контента. Это важные шаги для повышения прозрачности индустрии. Отдельно предложил конкретизировать базовые принципы категоризации рисков использования технологий для облегчения последующего правоприменения. Без этого ни бизнес не сможет нормально планировать, ни суды — однозначно аргументировать. В том числе — в такой высокорисковой для ИИ сфере как здравоохранение. Но сейчас — о том, что раньше не обсуждалось. И что, на мой взгляд, является наиболее серьёзным стратегическим пробелом в регулировании. 💡 "Слепое пятно" в архитектуре безопасности Законопроект выстраивает защиту на трёх уровнях: готовые ИИ-продукты, персональные данные, датасеты для обучения. Верно. Но вне контура остаётся четвёртый элемент — параметры обученной модели (веса, архитектура, коэффициенты). Почему это вопрос национальной безопасности, а не просто ещё один уровень? Медицинская модель, обученная на российских пациентах (в том числе с учётом особенностей многонационального состава нашей Родины) — с нашей генетикой, эпидемиологией, особенностями фармакологического ответа — становится носителем чувствительной информации о "цифровом портрете" нации. Обратный инжиниринг такой модели (тему которого я поднимал ранее 🔗) позволяет выявить специфические уязвимости популяции. Атаки типа membership inference и model inversion уже демонстрируют: из весов модели можно восстановить характеристики обучающей выборки — даже если сами данные давно удалены. Это не просто риск отсутствия полной защиты интеллектуальной собственности, в которую вложены огромные деньги. Это риск биомедицинской безопасности стратегического уровня. В нынешнем тексте этот объект юридически не существует. Не персональные данные, не гостайна, не объект ИС в смысле ГК РФ. Правовой вакуум. ✅ Предложил: ввести в правовое поле данным законопроектом понятие "параметры обученной модели" как самостоятельный объект охраны. Конкретный режим — будь то аналог коммерческой тайны, специальная категория или режим, сопоставимый с требованиями к критической информационной инфраструктуре — можно определить подзаконным актом. Но сам объект должен быть назван в законе. ❓ А как вы видите эти проблемы и их значимость? Что пора в сфере ИИ отрегулировать, а что ещё рано? ➡️ Подписывайтесь: Telegram | Max

Сегодня — день, когда принято говорить о силе. Есть люди, чья работа — буквально стоять между угрозой и теми, кого они защищают. Без публичности, без громких заявлений. Просто — держать позицию. Это требует особого склада характера. Не героического пафоса, а спокойного "я разберусь" — в момент, когда ситуация сложнее, чем кажется. С Днём защитника Отечества! Тех, кто служит в армии, служил или состоит в запасе — с особым уважением и благодарностью. Но Отечество защищают не только в форме. Его защищают врачи, инженеры, учёные, управленцы — все, кто делает свою работу честно и на совесть. Служение бывает разным. Суть — одна. Здоровья, твёрдости духа и людей рядом, на которых можно положиться!

Персональные данные как зеркало зрелости компании Большинство предпринимателей воспринимают комплаенс и оценку рисков как "ножной тормоз". Но, например, в гонках Формулы-1 тормоза нужны не для того, чтобы ехать медленно, а для того, чтобы входить в повороты быстрее конкурентов. В моей новой статье на "Т-Бизнес секретах" 🔗 я "поохотился на риски" применительно к персональным данным. Для компаний в сфере медицины и здравоохранения это вопрос выживания. Если вы, например, внедряете ИИ в диагностику, не учитывая охрану персональных данных, — вы строите замок на песке. Цена ошибки здесь — не просто штраф, а отзыв лицензии или потеря доверия инвесторов на следующем раунде. Да и для компаний в других сферах риски тоже не маленькие. В 2025 году в России произошло три законодательных события, которые радикально изменили цену ошибки с персональными данными: - штрафы выросли до 50 раз - за утечку ещё с 2024 года введена уголовная ответственность — от 4 до 6 лет и до 8 лет за нарушения трансграничной передачи - Россия и ещё более 60 государств подписали первый в истории глобальный договор ООН по киберпреступности (Россией же и инициированный) Я написал об этом разбор — и намеренно построил его не как список нарушений, а как универсальную для любого бизнеса систему четырёх слоёв риска: документы, инфраструктура, управление и содержание данных. Потому что с точки зрения управления компанией — это ровно та же логика, что и в любом другом операционном риске. Если в организации нет ответственного лица с реальными полномочиями, нет журналов, нет процедур — никакая правильная политика на сайте это не компенсирует. Ключевой вопрос, который я ставлю в статье: есть ли у вашей компании реестр всех подрядчиков, которым передаются персональные данные? Если хотя бы один из них не зарегистрирован в реестре Роскомнадзора — это юридически квалифицируется как утечка. Со штрафами от 3 млн рублей. Писал этот материал в конце прошлого года с прицелом на конкретную индустрию своей компании NaviConf — event-сферу. Но архитектура риска универсальна для любого бизнеса, работающего с данными физических лиц. То есть для всех. ✅ Полный разбор с матрицей ответственности и пятиуровневой стратегией управления риском: https://secrets.tbank.ru/blogi-kompanij/ohota-na-risk/ ➡️ Подписывайтесь: Telegram | Max

"Коммерсантъ" опубликовал статью 🔗 о развитии законодательства в сфере ИИ. Это прямое продолжение, что мы обсуждали в декабре в Госдуме. Регулятор планомерно движется в сторону упрощения доступа к данным и распределения ответственности, но в поле зрения регулирования пока остаётся "слепое пятно". Традиционно для медицины и здравоохранения акцент делается на защите трёх уровней: - Готовых ИИ-продуктов (как медизделий). - Персональных данных пациентов. - Датасетов для обучения. Однако вне контура безопасности остается четвёртый, критический элемент — сама структура и "веса" обученных моделей. Как эксперт, участвующий в разработке государственных стандартов ИИ в здравоохранении (при Росстандарте), подчеркну: модель, прошедшая обучение на специфических выборках российских пациентов (генетика, эпидемиология, специфика фармакологического ответа, региональные особенности течения болезней), становится носителем чувствительной информации о "цифровом портрете" нации. В чём риск? Обратный инжиниринг таких моделей позволяет не только украсть интеллектуальную собственность, но и выявить специфические уязвимости популяции. В контексте биомедицинской безопасности страны — это риск стратегического уровня. Для владельцев, акционеров и советов директоров MedTech-компаний этот вопрос лежит не только в плоскости этики, но и в плоскости защиты капитализации. Утечка модели, в которую инвестированы огромные суммы и годы клинических данных, — это фатальная потеря рыночного преимущества и риск наступления ответственности и попадания под санкции регулятора (согласно КоАП и УК РФ). В рамках существующего диалога с законодателями буду отстаивать позицию о том, что в законопроекты необходимо вводить понятие "защиты параметров обученной модели" как объекта, требующего особого режима охраны, сопоставимого с гостайной. ➡️ Подписывайтесь: Telegram | Max

Дал комментарий Российской газете 🔗 о принципиальном отличии российской модели биометрической идентификации от западной. Для медицины это не абстракция — биометрия точно будет активно внедряться для удалённой идентификации пациентов, защиты электронных медицинских карт и, например, подтверждения личности в телемедицине. Ключевое: Россия сделала ставку на централизованную государственную архитектуру вместо модели, где каждая компания накапливает собственные уязвимые базы фотографий и голосов. Бизнес работает с векторами — математически преобразованными данными, а сама биометрия хранится в государственном контуре ЕБС. Близкие подходы, к слову, реализовали или реализуют Индия, Китай, Филиппины, Нигерия, Марокко и Эстония. Это не просто технологическое решение. Это архитектурный выбор, который кратно снижает риски утечек критически важных персональных данных. МВД подтверждает: пока ни одного случая мошенничества с использованием биометрии не зарегистрировано. При этом в статье справедливо отмечена импортозависимость от GPU — узкое место, которое делает вычислительные мощности дефицитными и дорогими. Ставка на биометрию как одну из важных составляющих контура цифровой экономики оправдана — но только при условии системного подхода к управлению рисками. И тут важно, чтобы скорость внедрения не опережала зрелость системы управления этими рисками. ➡️ Подписывайтесь: Telegram | Max

Иллюзия нейтральности: почему вашему ИИ нельзя доверять Многие помнят громкие истории о том, как алгоритмы социальных сетей манипулировали общественным мнением в ходе предвыборных кампаний. Развитие нейросетей не решило эту проблему, а лишь перевело её на новый уровень — более тонкий и опасный для бизнеса. В бизнес-среде сложилось опасное убеждение, что нейросети — это беспристрастные калькуляторы смыслов. Однако на днях, проводя глубокий анализ одного из сегментов биоэкономики, я в очередной раз столкнулся с «галлюцинациями» особого рода — идеологическими. При попытке оценить регуляторные риски и перспективы рынка разные модели выдавали ответы с четким политическим уклоном. Вместо сухой аналитики я получал интерпретации, характерные для «левого» крыла демократической партии США. В меньшей степени «окрас» был характерен для китайских моделей. Это не случайность, а системный фактор. Исследования (1 и 2) подтверждают: популярные западные модели демонстрируют выраженную партийную предвзятость. Почему это критично для вас? Когда мы используем ИИ для подготовки инвестиционных меморандумов, оценки M&A или анализа законодательных рисков в HealthTech, BioTech, ИИ или других сферах — мы ожидаем «стерильных» данных. Но если инструмент имеет скрытые настройки — будь то российская, западная «демократическая» / «республиканская» или юго-восточная оптика — итоговое решение может оказаться ошибочным. Я в работе давно смотрю на это через призму технологического комплаенса. Теперь в аудит стратегии необходимо включать «коррекцию прицела»: 1️⃣ Кросс-валидация: сравнение выводов моделей с разной архитектурой и происхождением. 2️⃣ Стресс-тест на предвзятость (bias): проверка аналитических отчетов на предмет скрытой ангажированности и внедрение такой проверки в стандарты работы. 3️⃣ Гибридная экспертиза: чёткое понимание специфики конкретного ИИ, который готовит первичный слой данных, но стратегический фильтр остаётся за экспертом, понимающим контекст. Инновации не должны ослеплять и обязательно проходить через фильтр критического аудита. Наша задача — видеть за маркетинговым блеском алгоритмов их реальные ограничения. ИИ — мощный инструмент, но без понимания его скрытых настроек он мгновенно превращается в источник стратегического шума. Коллеги, а вы сталкивались с ситуацией, когда нейросеть «уводила» профессиональную дискуссию в сторону определенной повестки? Как вы верифицируете такие данные? ➡️ Подписывайтесь: Telegram | Max

Настоящая инновация редко бывает в создании нового «с нуля». Иногда почти прорывные инновации — это про умение увидеть аналогию в другой, казалось бы, далекой индустрии. Наверное многие уже видели грустную новость о роддоме в Новокузнецке. Вероятно проблема там — системная, но пусть расследованием занимаются те, кто должен. А я хочу поделиться вспомнившейся историей — о том, как совсем из другой индустрии в медицину пришло решение, спасшее тысячи жизней. Лондон, середина половина 90-х. В детской больнице периодически умирали новорожденные после операций на сердце. Проблема была не в хирургическом мастерстве, а в хаотичном переводе из операционной в реанимацию. 🏁 Два хирурга, Мартин Эллиотт и Алан Голдман, наблюдая за пит-стопом Ferrari в Формуле-1, увидели то, чего не замечали годами. Они были поражены тем, что 19 механиков действовали как единый организм: без слов, без лишних движений, с секундной точностью. Они связались с Ferrari. Те пригласили врачей в Маранелло 🏎. Посмотрев видео больничных процессов, гоночная команда дала жёсткий вердикт: «Организовано плохо, беспорядочно, нет четкого руководителя». Ferrari не стала учить врачей медицине. Они научили их управлению процессами в условиях экстремального риска: расписали роли, зоны ответственности, систему невербальной коммуникации. А позже врачи уже сами ещё дополнили опыт гонщиков опытом предрейсового брифинга в авиации 🛫, что позволило ещё уменьшить ошибки. Результат опубликован в рецензируемом журнале Pediatric Anesthesia 🔗 : ✅ технические ошибки сократились с 5,42 до 3,15 на одну передачу пациента ✅ пропуски информации при передаче — с 2,09 до 1,07 ✅ количество пациентов с множественными ошибками упало с 39% до 11,5% Сколько жизней спасено? Точно не посчитать. Но счёт точно идёт на тысячи. Позже другая команда Формулы-1, Williams, повторила успех, начав сотрудничество с университетской больницей Уэльса: в итоге там изменили маршруты и планировку пространств, промаркировали оборудование в разные цвета, ввели проверку радиосвязи и невербальную коммуникацию жестами. Какой урок можно вынести из этой истории? "Прорывные" инновации — это не всегда новая технология. Иногда это: 1️⃣ готовность учиться у "чужих" индустрий 2️⃣ системный подход к процессам 3️⃣ применение методологий с доказанной эффективностью в смежных областях В основе — те же принципы, которые работают в любой отрасли: стандартизация, чёткое распределение ответственности и потоков информации, анализ рисков и возможностей и культура безопасности. Когда я работаю с компаниями — всегда смотрю: есть ли у них практика привлечения экспертизы извне, пробовали ли они искать альтернативные подходы и смотреть "как у других"? Или они изобретают велосипед, потому что "уникальный бизнес"? А вы пробовали заимствование опыта из других индустрий? Или считаете, что медицина/технологии/производство — это "совсем другое"? ➡️ Подписывайтесь: Telegram | Max

Президент России В.В. Путин на сегодняшнем заседании Государственного Совета, посвящённом вопросам подготовки кадров для экономики Российской Федерации, подчеркнул 🔗 ровно тот же момент, который я озвучивал в прошлую пятницу в стенах Исполкома СНГ: Новые технологии требуют пересмотра существующих и подготовки новых программ и методик обучения, массовой переподготовки педагогических кадров всех уровней. Нельзя жить по старинке. Очень важно в то же время не терять фундаментальных основ нашей системы образования: это формирование у школьников и студентов самостоятельного, творческого мышления, навыков аналитической деятельности, в том числе способности критически оценивать предложения, сформированные искусственным интеллектом. Очень рад, что эта мысль прозвучала сегодня на таком высоком уровне Оригинал поста в Telegram ➡️ Инновации без иллюзий

На стратегической сессии Комитета по цифровому и технологическому суверенитетам СНГ (19 декабря 2025 г., Москва) звучала простая, но ёмкая идея: искусственный интеллект перестал быть просто технологией. Сегодня это инструмент управления данными, влияния на решения и, по сути, — фактор национальной безопасности. Вопрос не в том, использовать ИИ или нет. Вопрос — как управлять его последствиями, не впадая ни в изоляцию, ни в беспечность. Но тут возникает проблема, которая редко звучит в официальных выступлениях: терминологический хаос. Все говорят об "этике" в ИИ, но под разными словами подразумевают разное. Где граница между "безопасным" и "опасным" алгоритмом? Что означает "ответственное внедрение"? Эти вопросы остаются без единого ответа и в России, и внутри СНГ, не говоря уже о глобальном контексте. На сессии я поддержал идею, что цифровой суверенитет — это не столько технический вопрос, сколько вопрос управления смыслами. Нам нужны единые стандарты и метаязык, особенно в трёх направлениях: 1️⃣  Маркировка ИИ-контента. Конвенция ООН против киберпреступности (подписана 71 государством в октябре) создала новую площадку. Вопрос о том, как обозначать сгенерированный контент и какие механизмы проверки использовать, требует гармонизации. Сейчас каждая страна экспериментирует сама. Но тут, как с правилами движения по дорогам — проще, быстрее и дешевле для всех договориться в начале пути, чем потом путать знаки и уезжать не туда.     2️⃣  Авторство в эпоху ИИ. Когда произведение создано с помощью искусственного интеллекта — кто автор? Как это решается в разных странах СНГ? Здесь нет ни юридического, ни философского консенсуса. Нужны живые дискуссии, а не административные запреты.     3️⃣  Образование как фундамент. ИИ не делает глупых умными. Но может сделать умных гораздо быстрее. Поэтому готовящиеся поправки к закону об образовании должны включать ИИ-грамотность. Одновременно нужно сохранить критическое мышление, креативность и "смекалку" — те качества, которые именно сейчас становятся конкурентным преимуществом. Отдельно предложил инициативу, которую условно назвал "день без ИИ" — еженедельный период, когда в учебных заведениях ограничивается доступ к этим технологиям. Звучит парадоксально, но именно в ограничениях рождается креативность и глубокое понимание. Это не против ИИ и прогресса, а за полноценное развитие человека. Главное: суверенитет в цифровую эпоху — это не стены, а правила игры. СНГ имеет шанс установить эти правила сообща, до того, как они будут навязаны извне. Но это требует разговора на одном языке — о понятиях, стандартах и ответственности. Оригинал поста в Telegram ➡️ Инновации без иллюзий

Единый стандарт для венчура: о чём говорит инициатива РОСНАНО Российский венчурный рынок фрагментирован на уровне инструментов и коммуникации. Это не проблема качества оценок — профессиональные инвесторы во всех организациях справляются. Проблема в отсутствии единого языка, в том числе со стартапами. Каждая организация — будь то акселератор, корпоративный инвестор или венчурный фонд — разработала собственный подход к тому, как смотреть на проект. Оценочные листы различаются. Критерии отсева не совпадают. Финансовые модели заполняются по разным шаблонам. Требования к презентации и структуре информации отличаются. В результате стартап не просто подаёт заявки разным инвесторам — он фактически переписывает историю проекта для каждого из них. Это не видно на поверхности, но это создаёт трение. Предприниматель вынужден учить логику каждой организации, вместо того чтобы сосредоточиться на инновациях и росте компании. Даже когда два инвестора смотрят на один проект, они могут прийти к противоположным выводам просто потому, что считали важными для себя разные параметры. Команда ФИОП Группы «РОСНАНО» предложила 🔗 открытый стандарт управления венчурными проектами — общий набор подходов к скаутингу, скорингу, оценке команд, финмоделированию. Не обязательный каркас, а систему, которую могут принять те, кто видит в ней практическую ценность.​ Пилот показал результаты: за полгода на тестовых площадках число проектов для рассмотрения выросло в 2 раза, число одобренных инвестиций — на 35%. Это говорит об эффективности координации: когда критерии известны заранее, качественные проекты отбираются быстрее. Что реально меняется? Прозрачность для стартапов. Они смогут заранее понять логику оценки, подготовиться по одним правилам, а не угадывать. И не тратить кучу времени на подгонку пакета документов под разные требования. Для экосистемы: единый язык для обсуждения проектов, снижение транзакционных издержек при коммуникации между инвесторами и предпринимателями, возможность масштабирования лучших практик. Что не меняется — и это важно понимать. Ключевые метрики оценки остаются разными, потому что цели разные. Корпоративный венчур смотрит на стратегическое совпадение с основным бизнесом. Фонды и синдикаты — на потенциал масштабирования и финансовую отдачу. Государственные программы и институты развития и поддержки — на социальную значимость и технологический суверенитет. Но именно поэтому стандарт на уровне «правил игры» критичен. Пока каждый использует собственную систему оценки — очень трудно говорить о какой-либо синергии на рынке рынке. А с учётом поручения президента России о стимулировании выхода компаний на фондовый рынок — наличие понятных правил игры на более раннем этапе может помочь привить инновационным компаниям культуру работы с пакетами инвестиционных документов по стандартам. Важно понимать, что профессиональные скауты и инвестиционные комитеты всё равно будут оценивать подлинность метрик и реальный потенциал. Стандарт не отменяет человеческое суждение и опыт — он его систематизирует. Для опытного инвестора это инструмент структурирования анализа, а не революция в методологии. И в перспективе - способ автоматизации предварительной оценки проектов. А для тех инновационных компаний, кто это поймёт — наличие стандарта даст возможность более корректно строить воронку привлечения инвестиций, не тратя время на заведомо проигрышные варианты и быстрее привлекать инвестиции. Дорожная карта амбициозна: стандарт 1.0 в декабре 2026, цифровые инструменты в 2027 и далее программа сертификации экспертов. ​ Венчурный рынок РФ нуждается в координирующих механизмах. Эта инициатива может стать одним из них. Как думаете, такой стандарт станет барьером или возможностью для рынка инноваций?