Проектный научный коллектив «Интелбез»

Контакты ответственных лиц:

Научный руководитель: Лось Владимир Павлович, главный научный сотрудник ИИНТБ, los-vladimir@yandex.ru

Ответственный за поддержание веб-страницы проекта на сайте РГГУ Тышук Екатерина Дмитриевна, старший научный сотрудник РУНЦ по проблемам ИБ в системе высшей школы, 89035561908, umo.azi@mail.ru

Наименование проектного научного коллектива: Интелбез

О проекте:

Наш проектный коллектив сложился в Институте информационных наук и технологий безопасности в ходе научных дискуссий по вопросу построения и использования моделей искусственного интеллекта. Одна из актуальных проблем, которая при этом была выявлена, заключается в сложности оценки достоверности данных, получаемых с использованием таких моделей. В связи с этим была сформулирована проблема сертификации моделей искусственного интеллекта на соответствие требованиям безопасности и применимости.

Целью проекта является разработка и апробация технологий искусственного интеллекта и совершенствование на этой основе образовательного процесса РГГУ за счет использования в работе научно- педагогического состава и студентов моделей искусственного интеллекта, прошедших процедуру проверки (лицензирования) на предмет их безопасности и применимости в используемых предметных областях.

Задачи проекта:

проанализировать имеющиеся в открытом доступе публикации о существующих моделях искусственного интеллекта, провести выборочную апробацию применимости этих моделей к предметной области «Информационная безопасность»;

обосновать показатели безопасности и применимости моделей искусственного интеллекта в используемой предметной области (на примере УГСН 10.00.00 Информационная безопасность).

разработать алгоритм решения и программное обеспечение (программа для ЭВМ) программно-аппаратного комплекса для сертификации моделей искусственного интеллекта в интересах образовательного процесса РГГУ;

провести апробацию программно-аппаратного комплекса применительно к УГСН 10.00.00 Информационная безопасность, проанализировать полученные результаты, доработать, в случае необходимости, программное обеспечение;

разработать методические рекомендации по использованию программно-аппаратного комплекса применительно к УГСН 10.00.00 Информационная безопасность и предложения по его использованию в других предметных областях.

Предмет или область научных исследований проектного коллектива:

Основная идея по сертификации моделей искусственного интеллекта заключается в использовании верифицированных тестов, содержащих запросы и ответы по определенной тематике. Применительно к области информационной безопасности в качестве таких тестов целесообразно использовать фонды оценочных средств, утвержденные Федеральным учебно-методическим объединением в системе высшего образования по укрупненной группе специальностей и направлений подготовки 10.00.00 «Информационная безопасность» и Федеральным учебно-методическим объединением в системе среднего образования по укрупненной группе специальностей и направлений подготовки 10.00.00 «Информационная безопасность». В качестве таких тестов могут использоваться фонды оценочных средств, разработанные Национальным агентством по развитию квалификаций (НАРК) для профессиональных стандартов в области информационной безопасности. По результатам использования указанных тестов определяется доля ошибочных ответов, которая связывается с характеристикой применимости моделей и их безопасностью. Данная идея была апробирована 27 февраля 2025 г. на заседании Межведомственного семинара РГГУ «Технологии информационного противоборства в социотехнических системах» и получила одобрение. К реализации проекта привлечены: 1 доктор военных наук, профессор, два кандидата наук, доцента, имеющие достаточный опыт работы и научные достижения в реализации подобных проектов.

Пути и конкретные методы достижения цели проекта:

Цель проекта: совершенствование образовательного процесса РГГУ за счет использования в работе научно-педагогического состава и студентов моделей искусственного интеллекта, прошедших процедуру проверки (лицензирования) на предмет их безопасности и применимости в используемых предметных областях. Для достижения цели проекта используются следующие пути: теоретические и экспериментальные исследования. К конкретным методам достижения цели проекта относятся:

методы системного анализа, используемые для оценки характеристик моделей искусственного интеллекта, влияющих на их безопасность и применимость;

теоретическое обоснование показателей безопасности и применимости моделей искусственного интеллекта;

анализ имеющихся в открытом доступе моделей искусственного интеллекта и оценка их применимости к предметной области «Информационная безопасность»;

метод машинного моделирования для сертификации моделей искусственного интеллекта в интересах образовательного процесса РГГУ;

использование программно-аппаратного комплекса применительно к УГСН 10.00.00 Информационная безопасность, анализ полученных результатов, доработка, в случае необходимости, программного обеспечения.

Пути и конкретные методы достижения цели проекта:

Ожидаемые результаты реализации проекта:

Теоретические результаты:

анализ имеющихся в открытом доступе моделей искусственного интеллекта, обзор имеющихся публикаций по тематике безопасности и применимости моделей искусственного интеллекта;

обоснование показателей безопасности и применимости в используемой предметной области (на примере УГСН 10.00.00 Информационная безопасность).

Прикладные результаты:

алгоритм решения и программное обеспечение (программа для ЭВМ) программно-аппаратного комплекса для сертификации моделей искусственного интеллекта в интересах образовательного процесса РГГУ;

апробация программно-аппаратного комплекса применительно к УГСН 10.00.00 Информационная безопасность;

методические рекомендации по использованию программно- аппаратного комплекса в учебном процессе в рамках дисциплин, включенных в основные профессиональные образовательные программы бакалавриата, магистратуры и специалитета (с 2027 года) УГСН 10.00.00 Информационная безопасность и предложения по его использованию в других предметных областях;

программа для программно-аппаратного комплекса, используемая для сертификации моделей искусственного интеллекта в интересах образовательного процесса РГГУ (на примере УГСН 10.00.00 Информационная безопасность) (результат интеллектуальной деятельности);

программно-аппаратный комплекс для сертификации моделей искусственного интеллекта в интересах образовательного процесса РГГУ (на примере УГСН 10.00.00 Информационная безопасность) (результат интеллектуальной деятельности).

Ожидаемые результаты исследования отличаются новизной, оригинальностью и социальной значимостью для сферы образовательной деятельности государства. Реализация данного проекта будет способствовать повышению роли РГГУ как одного из лидеров гуманитарного образования и вузовской гуманитарной науки в России. Дальнейшее использование полученных результатов может быть связано с расширением процедур сертификации моделей искусственного интеллекта на другие предметные области образовательной и научной деятельности организаций, подведомственных Минобрнауки России, в том числе, РГГУ.