Наталья Касперская

Недавно стартовал прием заявок на соискание премии «За вклад в безопасность цифрового будущего». Премию запустила ассоциация по защите деловой информации (BISA), приурочив ее к BIS Summit — ежегодной конференции по информационной безопасности, которую знают и любят многие на рынке ИБ. Организаторами конференции уже почти 20 лет выступают BISA и InfoWatch.
 
Цель премии — поддержать проекты на стыке цифровизации и информационной безопасности, прошедшие испытание на практике. По моим ощущениям, это первая и пока единственная премия, организованная отраслевым профессиональным сообществом. По задумке организаторов проекты по цифровизации и информационной безопасности представлены в единой связке. 
 
Участвовать можно в пяти номинациях по разным направлениям информационной безопасности. Есть номинации для руководителей, компаний, отдельных проектов, инициатив.
 
Оценивать конкурсные заявки будет экспертное жюри в состав которого вошли представители государства, бизнеса и профильные специалисты. Участие бесплатное.
 
Подробнее об условиях участия можно прочитать вот тут, прием заявок закроется в конце августа.

Вышло мое новое интервью в ТАСС. Предыдущее было почти год назад, если не ошибаюсь.

В этот раз поговорили с журналистом о том, как меняются специальности в программировании из-за влияния ИИ, почему увольнения людей из-за того же ИИ неэффективны, а также о развитии российского ПО и о том, почему «зоопарк» из ИТ-решений с нами надолго.

Еще успели затронуть борьбу с мошенничеством и зарплаты в ИТ.

Кому интересно, ссылка здесь: https://tass.ru/interviews/27926649

Вчера мы были в Суздале. Там всю неделю проходит Второй Летний фестиваль Дениса Мацуева, посвященный классической музыке. На вчерашнем концерте играла наша знакомая девочка — Полина Ерёмина. Полину я знаю с младенчества. Мы дружим с её родителями, и они приезжали к нам с Полиной на дачу, когда она ещё была грудничком. Потом родители завели собственную дачу, и видеться мы стали реже. А тут вот пригласили в Суздаль послушать дочь.

Последний раз мы Полю видели года три назад, она была обычным ребёнком, только сильно удивляла родителей своим увлечением игрой на фортепиано. А сейчас ей 9 лет. И она — пианист-виртуоз, выступает на фестивале, как солистка. Я, конечно, слышала от родителей про её успехи, но такого не ожидала. Прикладываю видео — качество не очень хорошее, но даёт представление, что творит эта удивительная девочка в свои 9 лет. Полина играет Баха вместе с Владимирским Губернаторским симфоническим оркестром.

Я не большой знаток фортепианной игры и не увидела большой разницы между исполнением Полины Ерёминой и знаменитого Народного артиста России Дениса Мацуева.

Это потрясающий талант и потрясающий труд. Три часа ежедневных (!) занятий без перерывов и каникул. Всем бы нам так работать, как 9-летней Полине, и все бы мы были тогда Денисами Мацуевыми. Хочу пожелать Полине удачи! Всё остальное — терпение, умение, настойчивость — у неё уже есть.

Восьмого июля Госдума сразу во втором и третьем чтении (на следующий же день после принятия в первом чтении) приняла законопроект по поддержке ИИ. С момента внесения законопроекта в Госдуму и до момента его принятия прошло ровно 7 дней.

Никаких публичных обсуждений, никакого учета мнений экспертов. Терминология и формулировки не проработаны, отсутствуют требования по безопасности и соблюдению прав граждан, любая конкретика отнесена в подзаконные акты... Ничто не остановило законодателей от скоропостижной приёмки этого законопроекта.

Честно говоря, я не припомню законов в нашей ИТ-отрасли, которые бы принимались в такой спешке. Обычно второе и третье чтения используются для внесения изменений. Здесь ни буквы не изменили — да и как можно хоть что-то содержательно поправить и изменить за сутки?

При этом никаких ограничений по небезопасному или недопустимому использованию ИИ в критически и жизненно важных применениях законодатели решили не вводить (а точнее, выбросили их из первоначальных вариантов законопроекта).

Речь идёт только и исключительно о поддержке так называемых «больших фундаментальных моделей», которых в нашей стране ровно полторы штуки и больше пока не просматривается.

Заметим, кстати, что искусственный интеллект — вещь, безусловно, полезная в экономике, обороне, на транспорте, в правоохране — к «большим моделям» не сводится. Вся эта широкая сфера — распознавание, управление, предиктивная аналитика и др. — осталась в серой правовой зоне.

Глава комитета Госдумы по ИТ Сергей Боярский заявил, что «Главная цель этого законопроекта: простимулировать внедрение суверенных национальных моделей искусственного интеллекта во все сферы нашей жизни. Мы не можем проиграть гонку с Соединенными Штатами и Китаем за лидерство в этой области».

Сейчас в области фундаментальных моделей Россия серьёзно отстаёт и от США, и от Китая, что известно не только профессионалам, но и пользователям ИИ-моделей. Что изменится в развитии российского ИИ, если мы начнём принудительно внедрять эти модели «во все сферы нашей жизни»? Они сразу перестанут отставать от Запада? Требование по обязательному использованию (не разработке! к качеству разработки в законе требований нет) суверенно-национальных «моделей» везде, где можно, поднимет их качество на уровень иностранных аналогов (а точнее, оригиналов)? Что-то сомнительно.

Но зато примерно понятно, куда именно пойдут государственные средства на поддержку «искусственного интеллекта».

Вот тогда и заживём…

Некоторые подписчики попросили меня опубликовать версию нашего законопроекта по ИИ. Прикладываю его к этому посту, вложение в самом начале. И хочу сделать несколько пояснений.

Примерно год назад сенатор Российской Федерации Владимир Игоревич Кожин организовал рабочую группу при комитете Конституционного строительства А. А. Клишаса по разработке законопроекта, ограничивающего рискованные внедрения генеративного искусственного интеллекта. В группу, в частности, вошли мой муж — Игорь Ашманов, который 40 лет занимается разработкой ИИ, Андрей Калинин, бывший директор направления ИИ в МТС, Виктор Наумов, один из лучших в стране юридических специалистов по ИТ. И еще несколько серьезных специалистов по ИИ из образовательных и научных учреждений. Ну, и меня позвали.

9 декабря 2025, на ежегодной встрече Президента страны с СПЧ, Игорь Ашманов выступил перед Президентом и рассказал о необходимости закона о безопасном использовании ИИ. Он сказал, что законопроект уже подготовлен рабочей группой под управлением В. И. Кожина и попросил поддержки. Владимир Владимирович инициативу поддержал.

Минцифры решила эту инициативу перехватить и выдала свой проект, направленный, как мне кажется, в основном на стимулирование развития ИИ-систем двух игроков — Яндекса и Сбербанка. Наша рабочая группа пыталась договориться с ведомством, встречались с замминистра Минцифры и даже с курирующим вице-премьером, чтобы как-то объединить наши два законопроекта. Это не удалось. Оба законопроекта были отвергнуты, причем выглядит все так, что они были отвергнуты именно большим бизнесом.

В июне Минцифры представило новый законопроект (определение из него мы разбирали неделю назад). Суть проекта полностью изменилась — вместо регулирования ИИ он теперь направлен на поддержку использования ИИ.

Зачем поддерживать использование — вообще непонятно, ведь можно просто пользоваться. Тем не менее, на прошлой неделе этот новый сырой документ уже был внесен в Госдуму в обход публичных слушаний.

Что касается нашей версии законопроекта, которую я прилагаю, то у него есть несколько особенностей:

1. Он никак не регулирует развитие технологии ИИ. На наш взгляд, технологии надо дать свободно развиваться, чтобы не допустить отставание, о котором предупреждают апологеты.

2. Законопроект вводит ограничения на применение ИИ в некоторых критических для граждан страны областях — образовании, государственном управлении, законотворчестве и пр., то есть в сферах, которые прямо влияют на жизнь людей.

3. Законопроект вводит понятие доверенного ИИ в расчете на то, что проверку на доверенность будут осуществлять ФСТЭК, ФСБ, а также Консорциум исследований безопасности технологий ИИ, куда входят ИСП РАН, НТЦ ЦК, Академия криптографии и более десятка компаний, занимающихся разработками в сфере ИИ.

Ограничение на применение ИИ и понятие доверенного ИИ — главные отличия от законопроекта Минцифры, поданного в Госдуму. Законопроект Минцифры ограничений на внедрение не вводит — можешь использовать вместо учебников, а можешь законы писать.

Понятия доверенного ИИ в их законопроекте нет. Есть понятие «суверенного» ИИ, которое определяется, по сути, по географическому признаку — создано на территории РФ. Но как снижается вероятность утечек данных, проводились ли тесты на достоверность, на каких наборах данных и как именно проводилось обучение и т.д. – это не вопросы происхождения технологии, а вопросы именно доверенности. Если всех этих проверок не делать, то мы получим внедрение иностранного ИИ на российские объекты со всеми сопутствующими рисками.

Как бы не пришлось потом долго и мучительно импортозамещаться….

Еще в конце мая поговорили с «Коммерсантом» о безопасности в банках. О высоком уровне защиты в банковском и финансовом секторе, о новых типах атак, которые породила всеобщая цифровизация, об ИИ в банках – куда же без него!

О том, возможна ли вообще передача ответственности ИИ – например, при принятии решений о выдаче кредитов. И, конечно, о гигантских рисках и угрозах, которые несет использование генеративных ИИ-моделей.

Ссылка на интервью здесь и ниже, в посте «Коммерсанта».

Киберпреступники не могут ограбить банк, но они могут украсть ваши персональные данные, а потом, используя их, нацелиться на деньги.

В рамках проекта «Банкинг будущего» президент ГК InfoWatch и председатель правления АРПП «Отечественный софт» Наталья Касперская подробно разбирает главные угрозы для финансовых организаций и их клиентов сегодня и в будущем.

🎦 Запись интервью с Натальей Касперской доступна на нашем сайте.

«Банкинг будущего» — цикл интервью с визионерами российского рынка, который издательский дом «Коммерсантъ» реализует при экспертной поддержке ИТ-консалтинговой компании AXENIX.

Я наконец нашла время прочитать новую версию законопроекта про ИИ. Его разослали по всем ФОИВам, в ГосДуму, некоторые партии и т.п. Ну, и естественно, как-то документ попал в прессу. Для желающих изучить — прилагаю.

Я споткнулась сразу же на определении большой фундаментальной модели ИИ. Вот оно:

«..большая фундаментальная модель искусственного интеллекта — программа для электронных вычислительных машин (их составных частей), предназначенная для выполнения интеллектуальных задач на уровне, сопоставимом с результатами интеллектуальной деятельности человека или превосходящем их, использующая алгоритмы и обучающаяся (ранее обученная) на наборах данных для выведения (распознавания) закономерностей, предоставления информации, принятия решений или прогнозирования результатов по заданным человеком целям, одновременно являющаяся основой для создания и доработки различных видов программного обеспечения, содержащая не менее 1 миллиарда параметров и применяемая для выполнения большого количества различных задач».

Данное определение прекрасно своей широтой. Например, под него полностью подходит определение программного обеспечения Microsoft Excel.  Это программа для ЭВМ, решает сложные интеллектуальные задачи на уровне человека или круче (например, столбцы чисел любой длины складывает моментально), использует алгоритмы, обучается на наборах данных, которые туда вводит пользователь.

Эта программа, безусловно, используется для выведения закономерностей, принятия решений или прогнозирования результатов по заданным человеком целям. Она является основой для создания и доработки различных видов ПО — куча ПО действительно пишется с использованием Excel. В одном листе таблицы может быть до 17 миллиардов ячеек. Если каждую ячейку взять, как параметр (а определение, что такое параметр, в законопроекте отсутствует), то все — мы получили пример Большой Фундаментальной модели.

Неточность определения термина дает возможности по его широкому трактованию. Что, может быть, и неплохо, так как власти грозятся ввести КПЭ по внедрению ИИ региональным органам исполнительной власти и прочим госучреждениям. Но при таком определении можно взять Excel. или аналог и заявить — вот, мол, внедрили то, что полностью соответствует определению, на все наши компьютеры в организации — КПЭ выполнен на 100%!

В понедельник Федеральный регулятор по надзору в сфере связи, информационных технологий и массовых коммуникаций, сокращенно называемый Роскомнадзор или РКН, провел встречу с компаниями-разработчиками ПО, куда пригласили и меня.

Ну, о самой встрече я писать не буду — информация уже есть на просторах Рунета.

На мой вопрос об эффективности блокировок высокий чиновник ответил, что они находят блокировки успешными. Я задала вопрос присутствующим, кто из них общается в Телеграме. Все подняли руки.

- Ну что, — сказал председательствующий — тогда у вас и проблем нет.

Ответ остроумный, конечно. Но всё-таки я не перестаю думать о целесообразности траты времени и государственных средств на то, что вообще не работает.

РКН говорит, что является просто техническим исполнителем и выполняет волю других регулирующих органов. Каких именно, правда, нам выяснить не удалось — мол, сами знаете. Мы не знаем. Но дело даже не в органе.

Должен ли технический исполнитель бессловесно и без возражений исполнять всё ему порученное?

Приведу два примера.

В былые времена был у нас вертолёт (как говорится, когда были деньги). И летали мы с пилотом в разные точки Подмосковья. Потом продали его и рады. Вертолёт — транспорт ненадёжный. То погодные условия не подходят, то диспетчер лететь запретит. Несколько раз бывало, что мы почти долетали до места, а потом пилот разворачивал борт и летел обратно. Однажды попали в туман за 10 км до точки посадки, обратно лететь 80 км, а пилот развернул вертолёт, и нам пришлось ехать до места по земле 4 часа. Было крайне обидно, но что делать — спорить с пилотом было бесполезно. Это командир воздушного судна. Он решает, лететь или нет. Хотя, казалось бы, он — подчинённый, исполнитель, получающий у нас зарплату. Но он осознавал свою ответственность в рамках имеющейся у него компетенции.

А вот наш другой знакомый пилот и товарищ Дмитрий Ракитский — суперпилот, шеф-пилот Хелипорта, с 30-летним опытом безаварийных полётов и 16 тысячами часов налёта — как-то один раз послушался уговоров нанимателя и полетел в тумане вечером. Сейчас вместе с нанимателем и его женой они покоятся на дне Телецкого озера.

Другой пример. Я даю начальнику службы ИТ задание автоматизировать некий бизнес-процесс. И вполне осознаю, что я могу получить от него три варианта ответа:

1. Моё требование технически невозможно и/или практически вредно реализовать;

2. Можем сделать, будет стоить столько-то дополнительных денег и времени;

3. Да, легко. Завтра реализуем в рамках текущего бюджета.

Заключение о невозможности или нецелесообразности реализовать данную задачу я получаю крайне редко, но бывает. Тогда я либо переформулирую запрос, либо решаю пока не запускать этот проект.

В обоих примерах исполнители принимают на себя ответственность в рамках своих компетенций и могут выдать своему начальнику отрицательный ответ и отказаться делать то, что делать неправильно.

Почему же РКН не может сказать о невозможности блокировки некоторых ресурсов, вроде Телеграма и VPN, тому органу, который нельзя называть? Пилот может, разработчик может, а РКН не может?

Это — профессиональный орган, где работают крутые специалисты в области связности сетей и блокировки плохого контента, которые не могут не понимать, что реализуемо, а что — нет, что полезно и достигнет заданных целей, а что вредно.

Мы же видим, что ТСПУ работает всё хуже, блокировки результата не достигают. Вся страна поднимет руки, если спросить, есть ли у них доступ в Телеграм или к другим заблокированным ресурсам.

Эскалация — вплоть до ковровой блокировки протоколов и сколько-нибудь подозрительного трафика — ухудшает связность сетей в стране. А исполнитель продолжает делать всё то же самое, не взирая на негодный результат.

Прямо, как в анекдоте:

Директор колхоза говорит на собрании: «Об прошлом годе мы посеяли 10 га кукурузы, всё пожрала тля. Об этом годе мы посеяли 20 га кукурузы, всё пожрала тля. В будущем годе мы посеем 40 га кукурузы, нехай сволочь подавится!».

Я всё понимаю про «мы люди подневольные», «мы чиновники», «мы исполнители», «у нас задача», «делаем, что можем, что приказано». Но хотелось бы, чтобы у исполнителя такого уровня была хоть какая-то субъектность, сопротивляемость.

Чтобы РКН мог объяснить неназываемым начальникам, что не всё реализуемо и не всё полезно, проявлял техническую честность и упругость.

Как известно, опираться можно только на то, что сопротивляется.

P.S. Кстати говоря, ВЦИОМУ или Медиоскопу было бы неплохо провести исследование — сколько граждан используют VPN и имеют доступ в Телеграм. Чтобы получить реальную картину результата блокировок.

Сегодня вечером в 19:00 я буду говорить об искусственном интеллекте в образовании в программе «Отражение» на ОТР. Кому интересно, присоединяйтесь.

Ссылка на эфир: Личное мнение: Наталья Касперская | Программы | Общественное Телевидение России

Продолжение

Хуже, если американские умные модели и агенты будут вычислять русских пользователей (что нетрудно) и подсовывать им код с вредными закладками (или просто неэффективный).

Получается, что одной рукой мы импортозамещаем иностранные технологии, чтобы снизить цифровую зависимость, а другой – изо всех сил интегрируем в процесс разработки ПО гораздо более опасные, облачные генеративные агенты и модели иностранного производства.
Причём мы возлагаем на них гораздо больше надежд, чем на своё отечественное ПО. И, - естественно – платим за их использование. А «токены» из ИИ-моделей нынче — недёшевы.

В западных ИТ-журналах и блогах уже пишут, что бесконтрольное использование ИИ в компаниях пожирает больше денег на токенах, чем тратилось на зарплаты уволенных программистов.

Я не удивлюсь, если суммарный объем переведённых за рубеж средств на ИИ (по левым европейским и азиатским картам) перекрывает то самое падение в 3%, которое насчитали коллеги из «Квадранта технологий». Но этот расход на разработку ПО (по сути, оплата услуг западных разработчиков и систем) не будет учтён в статистике: ведь оплата доступа к зарубежному ИИ, недоступному для российских компаний и граждан, идёт по серым схемам и явно не учитывается в оценке объёма российского ИТ-рынка.

Скорее всего, через некоторое время будет отрезвление и откат, как обычно бывало последние 30 лет с синусоидой «разрабатываем сами /заказываем профессионалам».

Дешёвые работы (сделать «лэндинг» конфы за полчаса) или быстрые программные заплатки «по месту», вероятно, будут действительно выполнять «in-house» с помощью ИИ-ассистентов разработчика. А серьёзные системы сложной архитектуры снова начнут покупать и заказывать у профессионалов.

Коллеги из исследовательской компании «Квадрант технологий» (в основном, выходцы из крупнейших мировых исследовательских компаний в области ИТ – Gartner и IDC) недавно опубликовали отчёт об итогах рынка ИТ в России за 2025 год.

Сам отчёт здесь: https://quadrant.expert/research-it2025-continue

«Квадрант технологий» насчитали, что суммарно в стране было продано разных информационных систем на 3 трлн рублей. Но премьер-министр Михаил Мишустин на ЦИПРе назвал другой объём ИТ-рынка – около 5 трлн рублей.

Я позвонила директору агентства «Квадрант» Денису Галаеву, чтобы прояснить такое существенное расхождение.

Он объяснил, что, судя по всему, правительство подсчитывает все траты на ИТ, в том числе, которые были сделаны внутри крупных предприятий ими самими (так называемая кэптивная разработка, то есть внутрикорпоративная). А "Квадрант" принципиально считает только суммарную выручку тех компаний, которые работают на открытом ИТ-рынке и профессией которых является производство, продажа, внедрение и поддержка информационных систем.

Понятно, почему: внутрикорпоративные расчёты за ПО — не рыночные, они могут делаться по практически любым ценам, а кроме того, могут использоваться вообще не для приобретения ПО, а с другими целями — например, чисто финансовыми (перекладывание средств, вывод денег и т.п.).

В этом случае условный Ростех, ведущий массу своих ИТ-разработок, в статистику Квадранта не попадает.

Интересный вывод, который следует из сопоставления этих двух чисел – то, что у нас в стране почти 40% ИТ в деньгах формально составляют внутренние разработки крупных окологосударственных корпораций. И они уверенно растут последние 4 года.

А вот коммерческий ИТ-рынок в России — стагнирует или даже снижается. По оценке «Квадранта» впервые за последние 10 лет объём рынка информационных технологий в России в 2025 году не вырос, а снизился на 3%. То есть примерно на 90 миллиардов рублей.

Исследователи называют три наиболее очевидных причины снижения рынка:
— сокращение темпов импортозамещения (основные закупки отечественных продуктов были в 2023-24 годах, а в 2025 их и правда стало меньше),
 — ухудшение экономической ситуации в стране (я бы сказала, что ухудшение экономической ситуации стало сильно заметно к концу 2025 года, это мы почувствовали в своём бизнесе),
— замещение внешних заказов ИТ-систем на внутренние разработки с помощью искусственного интеллекта.

Последний тренд интересный, я хочу его обсудить поподробнее. Под ИИ сейчас в основном понимаются генеративные ИИ-модели, которые в нашей стране стали модными последние 2-3 года. Самые эффективные и популярные ИИ-модели — это ассистенты разработчика программного обеспечения. Они в некоторых случаях позволяют ускорять разработку ПО на порядок, о чём бурно пишут в прессе, вызывая шоковый эффект и эйфорию у ИТ-начальства.

Чем и начинают пользоваться все, невзирая на расходы и риски. Кое-кто уже увольняет «лишних» программистов и разрывает внешние контракты на поставку ПО.

Этот тренд бизнеса на внутреннюю, самостоятельную ИИ-генерацию программ виден, в частности, по тому, как отмечают исследователи «Квадранта технологий», что за 2025 год резко выросло число закупок специализированных серверов и видеокарт для использования генеративного ИИ внутри компаний (для разворачивания собственных «инференсов» ИИ-моделей).

Очевидно, компании надеются получить резкий рост производительности труда, а то и вообще избавиться от закупок ИТ, потому что прочли в прессе, что теперь ИИ сам может писать код.

Только вот тот ИИ, что умеет сам писать код — ни разу не российский. Лучшая и самая популярная в России ИИ-модель для разработчиков – Claude от Anthropic, от компании, которая заблокировала российских программистов в конце апреля.

Российские программисты, конечно, тоже не лыком шиты и нашли способы обхода блокировок и получения доступа к Клоду (эту компетенцию наши граждане в последнее время хорошо прокачали), но блокировка – не самое страшное последствие использования ИИ.

Продолжение следует...