В начале года я установил цели и ключевые результаты (OKR) для стимулирования своего личного и профессионального роста. Я работал над своими OKR, внося вклад в исследовательский проект, наставляя и обучая стажера в области науки о данных, расширяя свои знания, прочитав 28 книг и улучшив свой результат экзамена EFSET на 15 баллов, чтобы квалифицировать свое владение английским языком. Кроме того, я углубил свои знания в области машинного обучения для производства (MLOps), завершив специализацию с высшими баллами по нескольким курсам.
В знак признания этих достижений Galaksiya оказала мне честь, предоставив возможность посетить конференцию ECAI, престижное мероприятие, которое предоставило бесценную информацию о последних достижениях в области искусственного интеллекта. Конференция проходила в захватывающем городе Сантьяго-де-Компостела, месте, которое создавало ощущение, будто я вернулся назад во времени. Прогуливаясь по его мощеным улочкам и средневековой архитектуре, я чувствовал себя так, будто я внезапно телепортировался в 14 век, пройдя по страницам исторической книги. Красота и богатое наследие города сделали этот опыт еще более незабываемым. В этом блоге я поделюсь своим путешествием и основными выводами с конференции.
27-я Европейская конференция по искусственному интеллекту (ECAI)
ECAI проходила с 19 по 24 октября 2024 года и объединила более 1,600 делегатов из мирового сообщества исследователей ИИ.
Конференция включала в себя обширную программу, состоящую из презентаций технических докладов, мастер-классов, учебных занятий, приглашенных докладов и специальных сессий. В этом блоге я представлю краткий обзор презентаций и учебных занятий, которые я посетил во время мероприятия. Все статьи опубликованы в [1].
Ключевые темы
А. Этика и справедливость
Ответственность в системах искусственного интеллекта: устранение рисков, связанных с ИИ общего назначения, и создание механизмов для обеспечения безопасного и этичного внедрения.
Злоупотребление ИИ: решение этических дилемм, таких как злонамеренное использование ИИ, особенно в таких чувствительных областях, как социальные сети.
Справедливость и инклюзивность: отстаивание справедливого и пропорционального представительства в системах принятия решений на основе искусственного интеллекта.
Объяснимость в ИИ: обеспечение прозрачности и интерпретируемости систем ИИ для укрепления доверия и понимания, позволяющее заинтересованным сторонам понимать, как принимаются решения.
Б. Устойчивость
Экологическое воздействие ИИ: признание растущего углеродного следа процессов машинного обучения и содействие внедрению устойчивых практик.
Эффективное использование ресурсов: сосредоточено на минимизации потерь ресурсов и повышении эффективности систем искусственного интеллекта для снижения вреда окружающей среде.
C. Улучшение активного обучения и оптимизации
Активное обучение: разработка более совершенных алгоритмов, способных к самосовершенствованию с помощью целевых запросов и контрпримеров, что приводит к повышению эффективности модели.
Оптимизация: Проведение исследований с целью повышения эффективности и надежности классических систем планирования на основе искусственного интеллекта.
D. Применение ИИ в процессах и системах
Декларативные процессы: использование ИИ для оптимизации анализа, представления и синтеза процессов с целью повышения эффективности автоматизации рабочих процессов.
Взаимодействие многоагентных систем: изучение проблем и возможностей многоагентных систем, особенно при решении сложных многоцелевых задач.
Обнаружение аномалий: использование ИИ для выявления необычных закономерностей или отклонений в данных, которые могут указывать на ошибки, мошенничество или сбои в системе. Это включает в себя мониторинг в реальном времени и прогнозную аналитику для повышения эффективности принятия решений и поддержания целостности системы.
E. ИИ общего назначения
Определение, оценка и совершенствование искусственного общего интеллекта: растущее внимание к выявлению ограничений и предложению стандартизированных решений для ИИ, способного работать в различных задачах.
Ключевые методы
A. Большие языковые модели
B. Обучение с подкреплением
C. Многоагентные системы
D. Компьютерное зрение
Основные моменты конференции
1. Этика и справедливость
На семинаре « Внедрение этики ИИ через призму поведения » [2] обсуждалось, как согласовать системы ИИ с человеческими ценностями, подчеркивая справедливость, снижение предвзятости и прозрачность. Была подчеркнута необходимость выйти за рамки традиционных показателей точности и внедрить методы оценки, отражающие реальные проблемы, такие как ориентированные на пациента показатели в здравоохранении. На семинаре также обсуждалась важность предотвращения утечки данных и внедрения надежных многоцентровых процессов оценки для обеспечения достоверности.
Еще одним значимым вкладом стала работа «Этическое управление ИИ: методы оценки заслуживающего доверия ИИ» [3] , в которой методы оценки ИИ были разделены на концептуальные, ручные, полуавтоматические и автоматизированные подходы. В статье утверждалось, что хотя автоматизированные инструменты могут эффективно выявлять предвзятость и проблемы объяснимости, человеческий контроль остается необходимым для принятия взвешенных этических решений. Также были рассмотрены такие проблемы, как отсутствие стандартизации и несоответствия в оценках надежности, подчеркивалась необходимость единых рамок оценки.
Кроме того, в статье PEACE (Providing Explanations and Analysis for Combating Hate Expressions) [1] был представлен веб-инструмент, предназначенный для обнаружения скрытых и неявных высказываний, которые часто упускаются из виду традиционными моделями. Интегрируя инструменты визуализации и методы объяснимого ИИ, PEACE помогает модераторам контента лучше понимать и противодействовать как явным, так и неявным высказываниям, разжигающим ненависть, на онлайн-платформах.
2. устойчивость
Больше (достаточно) — лучше: к сегментации незаконных свалок отходов с малым количеством примеров [1] рассматривалась задача обнаружения незаконных свалок на аэрофотоснимках с минимальным количеством размеченных данных. Предложенный подход использовал методы обучения с малым количеством примеров и генерацию синтетических данных для повышения точности обнаружения при минимизации необходимости в обширных ручных аннотациях. Это исследование подчеркнуло, как ИИ может быть использован для эффективного решения реальных экологических проблем.
Еще одна важная работа, «Машинное обучение без отходов » [1] , представила подход к оптимизации моделей ИИ, основанный на принципах устойчивого развития. Авторы предложили структуру, вдохновленную принципами циркулярной экономики, с упором на повторное использование вычислений и знаний для повышения эффективности модели. Ключевые методы включали условные вычисления, непрерывное обучение и переработку ресурсов, что гарантировало, что системы ИИ остаются ресурсоэффективными без ущерба для производительности.
Более широкая проблема управления многоагентным и многоцелевым принятием решений в контексте устойчивого развития была исследована в работе «Мир — это многоцелевая многоагентная система: что дальше?» [1] . В этом исследовании рассматривалось, как ИИ может решать противоречащие друг другу приоритеты, такие как баланс экологической устойчивости и экономических целей. Интегрируя объяснимость и прозрачность в системы ИИ, исследование было направлено на повышение доверия и внедрение в крупномасштабные приложения для принятия решений.
3. Улучшение активного обучения и оптимизации
В учебном пособии «За пределами проб и ошибок: руководство по автоматизированному обучению с подкреплением» [4] были представлены сведения об автоматизации процессов обучения с подкреплением (RL). Методы AutoRL направлены на упрощение традиционно выполняемых вручную задач, таких как настройка гиперпараметров и выбор алгоритма, что делает RL более доступным и адаптируемым к реальным приложениям. В учебном пособии также рассматривалось влияние гиперпараметров на чувствительность и производительность модели, что подчеркивает важность методов автоматизированной оптимизации.
В связанном исследовании, «Анализ важности гиперпараметров для многоцелевого AutoML» [1] , изучалась роль настройки гиперпараметров в балансировании конкурирующих целей, таких как точность модели и вычислительные затраты. Авторы представили новые методы анализа для определения того, какие гиперпараметры оказывают наиболее значительное влияние, предоставляя ценные сведения для оптимизации многоцелевых моделей ИИ.
Кроме того, в работе «Выживание сильнейших: эволюционная адаптация политик к изменениям окружающей среды » [1] был представлен эволюционный подход к обучению с подкреплением. В исследовании была предложена эволюционная устойчивая оптимизация политики (ERPO), метод, позволяющий моделям ИИ адаптироваться к изменяющейся среде без необходимости обширного переобучения. Это исследование имеет значение для приложений, где системы ИИ должны функционировать в динамичных и непредсказуемых условиях, таких как робототехника и финансовое моделирование.
4. Применение ИИ в процессах и системах
В статье «Адаптивные к памяти и пространственно специализированные ансамбли моделей для обнаружения промышленных аномалий » [1] представлена структура, которая динамически интегрирует несколько специализированных моделей для обнаружения аномалий в промышленных системах. Сочетая адаптацию к памяти с пространственной специализацией, эта структура повышает способность ИИ обрабатывать разнообразные и изменяющиеся распределения данных. Этот подход оказался весьма эффективным в промышленных приложениях, где традиционные статические модели испытывают трудности с дрейфом концепций и изменением условий эксплуатации.
Еще одно важное исследование, «Каскадная память для обнаружения аномалий без учителя» [1] , посвящено проблеме чрезмерного обобщения в моделях без учителя. Многие существующие методы обнаружения аномалий с трудом различают нормальные и аномальные данные, что приводит к высокому уровню ложноположительных результатов. Предложенная архитектура каскадной памяти фокусируется на нормальных паттернах, позволяя системе более эффективно изолировать аномалии. Метод продемонстрировал лучшие результаты на различных эталонных наборах данных, особенно в сложных реальных сценариях.
Проверка моделей обнаружения аномалий без размеченных данных рассматривалась в работе «К проверке моделей без учителя » [1] . В этом исследовании было предложено использовать «точно разнообразный» ансамбль моделей для оценки систем обнаружения аномалий, используя методы ранжирования на основе корреляции для оценки надежности модели. Предоставляя структурированный подход к проверке без учителя, исследование способствовало повышению надежности и масштабируемости систем обнаружения аномалий на основе ИИ.
5. ИИ общего назначения
На семинаре «Понимание языка в эпоху взаимодействия человека и машины » [5] исследовалась меняющаяся роль больших языковых моделей (БЯМ) в таких приложениях, как разговорный ИИ и машинный перевод. Хотя БЯМ продемонстрировали впечатляющие возможности, на семинаре были подчеркнуты их ограничения в истинном понимании человеческого языка, особенно в контекстах, требующих глубокого рассуждения и контекстной осведомленности.
Наконец, в статье «Предостережения и решения для характеристики ИИ общего назначения » [1] рассматривается более широкая проблема измерения общности и возможностей ИИ общего назначения. Авторы предложили новые стратегии бенчмаркинга, включая тесты на адаптивность, которые оценивают производительность ИИ в различных и меняющихся задачах. Они также выступили за междисциплинарные идеи из философии и когнитивной науки для уточнения концептуализации ИИ общего назначения, подчеркнув важность прозрачности и объяснимости в оценке ИИ.
Резюме
ECAI исследовал ключевые темы, формирующие будущее ИИ, включая этику, устойчивость, оптимизацию и приложения в реальном мире. Обсуждения этики и справедливости подчеркнули важность прозрачных, беспристрастных систем ИИ, которые соответствуют человеческим ценностям.
Усилия по обеспечению устойчивости были сосредоточены на снижении воздействия ИИ на окружающую среду за счет энергоэффективных методов и ответственного использования ресурсов. Достижения в области активного обучения и оптимизации выдвинули на первый план методы автоматизации и адаптации систем ИИ к динамичным средам. В прикладном ИИ оптимизация процессов и инновации в принятии решений продемонстрировали практические решения для промышленных и общественных задач. На конференции также рассматривались сложности ИИ общего назначения, подчеркивалась необходимость адаптивности, прозрачности и междисциплинарного сотрудничества. В целом, ECAI подчеркнула разработку этичных, эффективных и адаптируемых систем ИИ для решения насущных глобальных проблем.
Референсы
[1] Труды ECAI 2024 – 27-я Европейская конференция по искусственному интеллекту (ECAI), 19-24 октября 2024 г., Сантьяго-де-Компостела, Испания. IOS Press. Доступно по адресу: https://ebooks.iospress.nl/volume/ecai-2024-27theuropean-conference-on-artificial-intelligence-1924-october-2024santiago-de-compostela-spain-including-pais-2024
[2] Семинар AIEB-ECAI 2024 – Внедрение этики ИИ с точки зрения поведенческих аспектов. ECAI 2024. Доступно по адресу: https://aieb-ecai2024.framer.ai/
[3] МакКормак, Л., и Бендешаш, М. (2024) . Этическое управление ИИ: методы оценки заслуживающего доверия ИИ. arXiv. Доступно по адресу: https://arxiv.org/abs/2409.07473
[4] Учебное пособие ECAI 2024 AutoRL – За пределами проб и ошибок: Учебное пособие по автоматизированному обучению с подкреплением. Доступно по адресу: Ссылка
[5] Семинар LUHME, ECAI 2024 – Понимание языка в эпоху взаимодействия человека и машины. Доступно по адресу: https://luhme.web.uah.es/
