На площадке НИУ ВШЭ опубликована «Белая книга» оценки соответствия искусственного интеллекта
Технический комитет по стандартизации №164 «Искусственный интеллект», действующий на площадке НИУ ВШЭ, совместно с Палатой индо-российского технологического сотрудничества (CIRTC) и ассоциацией «РУССОФТ» опубликовали «Белую книгу» оценки соответствия искусственного интеллекта. В ней отражены подходы к стандартизации и этическому регулированию технологий ИИ в двух пилотных отраслях — здравоохранении и сельском хозяйстве.
Технический комитет по стандартизации «Искусственный интеллект» (ТК 164) был создан приказом Росстандарта в 2019 году. Он является формой сотрудничества заинтересованных организаций и органов власти при проведении работ по национальной, межгосударственной и международной стандартизации. Председатель ТК 164 — директор по научным проектам НИУ ВШЭ Сергей Гарбук.
Работа над проектом «Белой книги» началась в 2023 году после подписания CIRTC, ассоциацией «РУССОФТ» и ТК 164 Меморандума по созданию межгосударственной российско-индийской системы оценки соответствия технологий ИИ.
Опубликованный аналитический доклад состоит из пяти разделов. Первый посвящен целям, согласованным двумя государствами, в области оценки соответствия технологий ИИ, а также целям оценки соответствия ИИ в здравоохранении и сельском хозяйстве. Второй раздел содержит список задач ИИ в обеих отраслях. В третьем разделе перечислены существующие на российском и индийском рынках ИИ-решения в пилотных отраслях. Четвертый раздел освещает состояние актуальных национальных и международных документов по стандартизации. Последний раздел посвящен подходам к этическому регулированию искусственного интеллекта, согласованным двумя странами, а также международным подходам в этой сфере.
Авторами «Белой книги» выступили индийские и российские эксперты, в том числе ученые НИУ ВШЭ.
В дальнейшем в рамках пилотного проекта стороны планируют разработать метрики оценки качества для технологий ИИ, участвующих в пилотном эксперименте, и требования к качеству прикладных технологий ИИ, в том числе в сравнении с качеством человека-оператора. Итогом работы должны стать единые документы по стандартизации для России и Индии, устанавливающие требования к тестированию отдельных прикладных технологий ИИ в области здравоохранения и сельского хозяйства.
Первые полученные результаты росийско-индийского сотрудничества в сфере стандартизации и оценки соответствия технологий ИИ будут представлены на саммите глав национальных органов по стандартизации государств — членов БРИКС, который пройдет летом 2024 года под председательством России.
После завершения пилотного эксперимента планируется создать совместную лабораторию по тестированию ИИ, а также работать над продвижением методик тестирования на уровень международных организаций по стандартизации (ИСО/МЭК, МСЭ).
Сергей Гарбук, директор по научным проектам НИУ ВШЭ, председатель ТК 164
Снятие барьеров, связанных с применением искусственного интеллекта в областях, где некорректное решение может привести к угрозам для здоровья и жизни людей, существенному экологическому и экономическому ущербу, достигается благодаря стандартизации требований к методикам испытаний ответственных интеллектуальных систем, а также за счет объективного подтверждения соответствия систем установленным требованиям в области функциональности и безопасности.
Вам также может быть интересно:
Эксперты ВШЭ рассказали слушателям Таврической духовной семинарии об ИИ-технологиях
Делегация Вышки в июне побывала с визитом в Таврической духовной семинарии Симферопольской и Крымской епархии. Стороны обсудили развитие партнерских проектов и совместных инициатив, в частности студенческие экспедиции в рамках проекта «Открываем Россию заново». Кроме того, директор Института искусственного интеллекта и цифровых наук ВШЭ Алексей Масютин прочел лекцию об ИИ-технологиях.
В НИУ ВШЭ состоялась первая конференция «Искусственный интеллект в медиа»
В работе форума приняли участие представители бизнеса, коммуникационных агентств, медиа, а также эксперты Вышки. Они обсудили то, как ИИ изменит креативные индустрии и повлияет на личный бренд и может ли искусственный интеллект помочь бизнесу лучше понять своего клиента. Стоит отметить, что прошедшая конференция — первая из серии запланированных мероприятий для профессионалов медиарынка и коммуникаций.
ВШЭ открывает программу подготовки элитных ИИ-специалистов в сфере прорывных технологий
Высшая школа экономики запускает программу «ИИ 360: Инженерия искусственного интеллекта» в формате трека на флагманской бакалаврской программе «Прикладная математика и информатика» факультета компьютерных наук. Партнерами станут «Яндекс» и Сбер, а также сильнейшие технические вузы — ИТМО, МФТИ и Университет Иннополис.
Обучение с подкреплением позволило лучше работать генеративным потоковым нейросетям
Ученые Центра ИИ и Института искусственного интеллекта и цифровых наук факультета компьютерных наук НИУ ВШЭ применили классические алгоритмы обучения с подкреплением для настройки генеративных потоковых сетей (GFlowNets). Это позволило улучшить работу GFlowNets, которые применяются уже три года для решения сложнейших научных задач на этапах моделирования, генерации гипотез и экспериментального проектирования. Результаты работы вошли в 5% лучших публикаций на Международной конференции по искусственному интеллекту и статистике AISTATS, которая состоялась 2–4 мая 2024 года в Валенсии.
НИУ ВШЭ и Сбер провели форсайт искусственного интеллекта
Высшая школа экономики совместно со Сбером провела форсайт искусственного интеллекта (ИИ). Его первые итоги обсудили участники стратегической форсайт-сессии по поисковым исследованиям в сфере ИИ, которая прошла в Координационном центре Правительства РФ под руководством вице-премьера Дмитрия Чернышенко. Результаты форсайта лягут в основу Единой программы исследований и разработок в сфере ИИ.
Искусственный интеллект: «поход в качалку для мозга»
На днях в Вышке состоялось очередное заседание дискуссионного клуба «Самовар», главной темой которого на этот раз стал искусственный интеллект. Вместе с руководителем департамента больших данных и информационного поиска, доцентом факультета компьютерных наук ВШЭ Евгением Соколовым и директором по связям с общественностью НИУ ВШЭ, модератором встречи Романом Левковичем участники разбирались в том, что такое ИИ, что он умеет, чему и как быстро учится и зачем нам всем нужно об этом знать.
На выставке-форуме «Россия» представили систему сертификации технологий ИИ «Интеллометрика» НИУ ВШЭ
В рамках дней Росстандарта на выставке-форуме «Россия» прошла дискуссия о том, как обеспечить доверие к технологиям искусственного интеллекта. Участники рассказали о подходах к испытаниям систем ИИ в промышленности, управлении городом, образовании, в области контроля вредных выбросов. На сессии также была представлена система добровольной сертификации технологий ИИ «Интеллометрика», разработанная в Вышке.
На Академическом форуме БРИКС обсудили возможности и угрозы искусственного интеллекта
В рамках Академического форума БРИКС, который на днях завершил свою работу в Москве, ученые, эксперты и представители бизнеса обсудили вопросы развития технологий искусственного интеллекта (ИИ), в том числе разработку стандартов и этических норм в этой области, а также совместные исследовательские проекты стран объединения.
ФКН ВШЭ и МТС открывают магистратуру по искусственному интеллекту
В ходе конференции True Tech Day МТС объявила об открытии в сентябре 2024 года магистратуры по направлению «Исследования и предпринимательство в искусственном интеллекте» на факультете компьютерных наук Высшей школы экономики. Цель программы — применение новых технологий в бизнесе и обучение специалистов, которые будут заниматься созданием инновационных продуктов, используя передовые методы машинного и глубинного обучения.
НИУ ВШЭ — лидер среди вузов по вкладу в развитие ИИ
15 мая состоялось вручение премии «AI Awards: создатели будущего 2024». Команда по искусственному интеллекту и цифровым продуктам «Билайна» Big Data & AI* совместно с Brand Analytics объявили победителей рейтинга искусственного интеллекта, который составила нейросеть. Вышка стала победителем в индустриальной номинации «Вузы. Вклад в развитие ИИ».