Власти России будут прогнозировать «утечку мозгов» и поведение топовых чиновников по соцсетям

0
91

ИИ для анализа соцсетей

Как выяснил CNews, власти готовы потратить до 36 млн руб. на проведение научно-исследовательских работ (НИР) по теме «Приложение методов доверенного и объяснимого искусственного интеллекта к технологиям психологической диагностики личности по данным социальных сетей».

Тематический тендер от имени Институт системного программирования им. В. П. Иванникова Российской академии наук (ИСП РАН) был объявлен институтом 23 ноября 2021 г. в формате конкурентного отбора с вышеупомянутой начальной максимальной ценой договора. Заявки от претендентов будут приниматься до 29 ноября, итоги планируется подвести в тот же день. Фронт работ рассчитан на срок до 1 сентября 2024 г.

При этом генеральным заказчиком заявлена автономная некоммерческая организация «Аналитический центр при Правительстве России» (АЦ). НИР по заказу ИСП РАН станут выполняться за счет средств, полученных от этой организации по договору от 2 ноября 2021 г. о предоставлении институту гранта.

Грантовая помощь была оказана нескольким организациям — исследовательским центрам в сфере искусственного интеллекта (ИИ) — по итогам конкурсного отбора, который завершился 4 октября 2021 г. Получателями средств, помимо ИСП РАН, были определены «Сколтех», университет «Иннополис», ИТМО, Высшая школа экономики и МФТИ. Список получателей был утвержден на заседании рабочей группы по исследовательским центрам в сфере ИИ под председательством вице-премьера Дмитрия Чернышенко.

Власти России будут прогнозировать «утечку мозгов» и поведение топовых чиновников по соцсетям

Власти России задались вопросом, насколько анализ соцетей силами ИИ может предсказать поведение ценных кадров и ключевых чиновников

Понятия доверенного и объяснимого ИИ в тендерных документах не расшифровываются. В общепринятом понимании под первым подразумевается тип искусственного интеллекта, не оказывающего негативного влияния на человека и цивилизацию. Во втором случае речь идет о таком типе ИИ, логика самостоятельны решений которого в ходе его саморазвития остается понятной человеку, а не превращаются в систему сигналов из «черного ящика».

Редакция ожидает от ИСП РАН комментариев относительно того, сможет ли институт самостоятельно использовать достигнутые результаты НИР, или все они поступят в безраздельное распоряжение генерального заказчика — правительственный АЦ.

Удивительная проблематика НИР

Конкретные задачи, стоящие перед исполнителем НИР, сформулированы вполне четко. Целями работ заявлено создание технологий, позволяющих диагностировать психологические свойства личности по данным профиля соцсетей и определять оптимальный профессиональный путь человека с учетом психологических свойств личности, а также технологий, реализующих диагностику психологических свойств и состояний личности с использованием аудио- и видеозаписей, и исследование инструментов доверенного и объяснимого ИИ в применении к создаваемым технологиям.

В то же время, заявленная общая проблематика исследования выглядит существенно шире.

«В настоящее время приобретает все большее распространение разработка технологий, использующих цифровые следы для диагностики свойств и состояний личности, начинают авторы издалека. — Для разработки и дальнейшего применения подобных технологий критически важным является использование принципов доверенного ИИ, так как подобного рода модели опираются на разнородные типы данных (видео, текст, фото), где в качестве источника могут быть использованы социальные сети, в которых могут встречаться искажения, внесенные туда злонамеренно или случайно в связи с особенностью сбора выборки. Объяснимые модели ИИ позволят повысить достоверность получаемых результатов, которые не могут быть оценены экспертом по исходным данным, как например в случае диагностики заболеваний по снимкам».

Далее госзаказчик отмечает, что к одному из источников данных относятся социальные сети, накапливающие обширные материалы относительно интересов, увлечений, записей пользователя, фиксирующих показатели его поведенческой активности.

«Использование цифровых следов открывает широкие возможности по оценке личности и прогнозированию ее поведения без осуществления психологического тестирования, требующего, как правило, добровольного согласия тестируемого, — продолжают автоы. — Даже отсутствие следов в соцсетях у самого человека, тем не менее, оставляет возможность достаточно точного профилирования по следам его более близкого и дальнего окружения».

После этого начинаются, возможно, самые примечательные рассуждения в контексте намеченных исследовании по линии ИИ.

Новые типы атак можно выявлять даже без сигнатур и правил корреляции Безопасность

Власти России будут прогнозировать «утечку мозгов» и поведение топовых чиновников по соцсетям

«Прогнозирование поведения того или иного человека, особенно в случаях, когда он может принимать ключевые государственные или корпоративные решения или выступить разработчиком особо ценного продукта, создателем творческого произведения, автором принципиального открытия, представляет существенный коммерческий или политический интерес, — сообщают авторы ТЗ. — Широкое, массовое профилирование население может выступить хорошим предиктором массовидного поведения, например, в условиях социальных конфликтов и выступлений».

В связи со сказанным, составители ТЗ предполагают, что уже в ближайшее время высоковероятно возникновения противоборства в сфере методов оценки личностных свойств людей и прогнозирования поведения. В этом противоборстве возможно развитие как методов, повышающих точность прогнозирования, так и методов, затрудняющих психологические оценки.

«Проблема профессионального самоопределения важна с точки зрения повышения эффективности использования трудовых ресурсов, — переходят авторы ТЗ к кадровой проблематике. — Сегодня происходит настоящая борьба за таланты, а человеческие ресурсы в связи с ростом объема интеллектуального труда становятся основным дефицитом. Поэтому центральной для обеспечения профессиональных достижений становится задача изучения и выявления качеств личности, с одной стороны, предсказывающие выбор сферы деятельности, а с другой, дальнейшую эффективность».

С точки зрения авторов ТЗ к НИР, проблема имеет и международный аспект, связанный с «утечкой мозгов». «Открытость границ, свобода движения информации позволяют высокоинтеллектуальному населению широко перемещаться по миру, а перед правительствами стран, желающих формировать эффективную экономику, ставят задачу оценки наиболее перспективных в той или иной области профессионалов и создания для них условий наибольшего благоприятствования в своей стране, — рассуждают они. — Тем самым объективно заложено поле борьбы в сфере методов машинного обучения, позволяющих обеспечивать наиболее точное прогнозирование профессиональной успешности личности в той ли иной сфере деятельности».

В завершении описания проблематики НИР авторы ТЗ несколько неожиданно упоминают в качестве элементов перспективного массового изучения записи переговоров и видеоинтервью. «Данная проблема является актуальной в связи с развитием средств дистанционного психологического консультирования и поддержки людей, — говорится в ТЗ. — Взаимодействие в условиях острых кризисов, чрезвычайных ситуаций, бедствий и т. д. требует немедленного распознавания состояния собеседника, для чего очень важно создание автоматических ассистентов. Такие ассистенты важны и для высокоуровневых переговоров политического и коммерческого характера».

«В связи с развитием методов машинного обучения становится возможным построение моделей предсказания свойств личности посредством работы с большими массивами данных, включая анализ видеозаписей, — завершает свои рассуждения госзаказчик. — В то же время эти методы должны обладать высокой надежностью, поскольку в условиях острого противоборства соперник может стремиться к нарушению адекватного психологического взаимодействия людей».

В контексте заявленной проблематики CNews запросил у Аналитического центра при Правительстве комментарии относительно того, какой ему видится практическая реализация будущих результатов НИР. Ответов редакция не получила в течение четырех дней.

Другие работы ИСП РАН по линии ИИ

Рассматриваемая НИР — не единственная из тех, которые ИСП РАН собирается заказать в интересах правительственного АЦ по линии ИИ. В тот же день, 23 ноября 2021 г. были объявлены работы по темам «Методы обнаружения и противодействия состязательным атакам на модели машинного обучения» (начальная цена договора 16 млн руб.), «Подготовка медицинского набора данных с рентгеновскими снимками и обеспечение доступа к системе с ТИИ для классификации рентгеновских снимков с целью выработки критериев доверия к системам с ТИИ в медицине и методик создания доверенных систем с ТИИ в медицине» (36 млн руб.), «Исследование и разработка вопросно-ответных систем с возможностью объяснения выданного ответа» (26 млн руб.), «Приложение методов доверенного и объяснимого ИИ к анализу омикс-данных» (45 млн руб.), «Разработка подходов к оценке этических аспектов применения систем ИИ в лечебно- профилактических учреждениях» (11 млн руб.).

Таким образом, общая сумма шести ИИ-тендеров ИСП РАН составляет 170 млн руб.