В начале года я установил цели и ключевые результаты (OKR) для стимулирования своего личного и профессионального роста. Я работал над своими OKR, внося вклад в исследовательский проект, наставляя и обучая стажера в области науки о данных, расширяя свои знания, прочитав 28 книг и улучшив свой результат экзамена EFSET на 15 баллов, чтобы квалифицировать свое владение английским языком. Кроме того, я углубил свои знания в области машинного обучения для производства (MLOps), завершив специализацию с высшими баллами по нескольким курсам.
В знак признания этих достижений Galaksiya оказала мне честь, предоставив возможность посетить конференцию ECAI, престижное мероприятие, которое предоставило бесценную информацию о последних достижениях в области искусственного интеллекта. Конференция проходила в захватывающем городе Сантьяго-де-Компостела, месте, которое создавало ощущение, будто я вернулся назад во времени. Прогуливаясь по его мощеным улочкам и средневековой архитектуре, я чувствовал себя так, будто я внезапно телепортировался в 14 век, пройдя по страницам исторической книги. Красота и богатое наследие города сделали этот опыт еще более незабываемым. В этом блоге я поделюсь своим путешествием и основными выводами с конференции.
27-я Европейская конференция по искусственному интеллекту (ECAI)
ECAI проходила с 19 по 24 октября 2024 года и объединила более 1,600 делегатов из мирового сообщества исследователей ИИ.
Конференция включала в себя комплексную программу, включая презентации технических докладов, семинары, руководства, приглашенные доклады и специальные сессии. В этом блоге я предоставлю краткое изложение презентаций и руководств, которые я посетил во время мероприятия. Все статьи опубликованы в [1].
Ключевые темы
А. Этика и справедливость
Ответственность в системах ИИ: Устранение рисков, связанных с универсальным ИИ, и создание механизмов, обеспечивающих безопасное и этичное развертывание.
Неправильное использование ИИ: Решение этических дилемм, таких как вредоносное использование ИИ, особенно в таких деликатных областях, как социальные сети.
Справедливость и инклюзивность: Выступаем за справедливое и пропорциональное представительство в системах принятия решений на основе искусственного интеллекта.
Объяснимость в ИИ: Обеспечение прозрачности и интерпретируемости систем ИИ для укрепления доверия и взаимопонимания, что позволит заинтересованным сторонам понимать, как принимаются решения.
Б. Устойчивость
Воздействие ИИ на окружающую среду: Признание растущего углеродного следа процессов машинного обучения и продвижение устойчивых практик.
Эффективное использование ресурсов: Основное внимание уделяется минимизации потерь ресурсов и повышению эффективности систем искусственного интеллекта для снижения вреда окружающей среде.
C. Улучшение активного обучения и оптимизации
Активное изучение: Разработка более интеллектуальных алгоритмов, способных совершенствоваться с помощью целевых запросов и контрпримеров, что приводит к повышению эффективности модели.
Оптимизация: Проведение исследований с целью повышения производительности классических систем планирования на основе ИИ, что сделает их более эффективными и надежными.
D. Применение ИИ в процессах и системах
Декларативные процессы: Использование ИИ для оптимизации анализа, представления и синтеза процессов с целью лучшей автоматизации рабочих процессов.
Многоагентное сотрудничество: Изучение проблем и возможностей многоагентных систем, особенно при решении сложных многоцелевых сценариев.
Обнаружение аномалии: Использование ИИ для выявления необычных закономерностей или отклонений в данных, которые могут указывать на ошибки, мошенничество или сбои системы. Это включает мониторинг в реальном времени и прогнозную аналитику для улучшения принятия решений и поддержания целостности системы.
E. ИИ общего назначения
Определение, оценка и улучшение AGI: Растет внимание к выявлению ограничений и предложению стандартизированных решений для ИИ, которые могут выполнять разнообразные задачи.
Ключевые методы
A. Большие языковые модели
B. Обучение с подкреплением
C. Многоагентные системы
D. Компьютерное зрение
Основные моменты конференции
1. Этика и справедливость
Внедрение этики ИИ через поведенческую призму[2] На семинаре обсуждалось, как согласовать системы ИИ с человеческими ценностями, подчеркивая справедливость, снижение предвзятости и прозрачность. Он подчеркнул необходимость выхода за рамки традиционных метрик точности и принятия методов оценки, которые отражают реальные проблемы, такие как пациент-ориентированные метрики в здравоохранении. На семинаре также обсуждалась важность предотвращения утечки данных и внедрения надежных многоцентровых процессов оценки для обеспечения надежности.
Другим заметным вкладом было Этическое управление ИИ: методы оценки надежности ИИ[3] , который классифицировал методы оценки ИИ на концептуальные, ручные, полуавтоматические и автоматизированные подходы. В статье утверждалось, что хотя автоматизированные инструменты могут эффективно обнаруживать проблемы предвзятости и объяснимости, человеческий надзор остается существенным для принятия нюансированных этических решений. Также были рассмотрены такие проблемы, как отсутствие стандартизации и несоответствия в оценках надежности, что подчеркнуло необходимость единых рамок оценки.
Кроме того, PEACE (Предоставление объяснений и анализа для борьбы с проявлениями ненависти)[1] paper представил веб-инструмент, предназначенный для обнаружения скрытых и неявных высказываний, которые традиционные модели часто упускают из виду. Интегрируя инструменты визуализации и объяснимые методы ИИ, PEACE помогает модераторам контента лучше понимать и устранять как явные, так и неявные высказывания ненависти на онлайн-платформах.
2. устойчивость
Больше (достаточно) значит лучше: на пути к сегментации незаконных свалок отходов с малым количеством попыток[1] решалась проблема обнаружения незаконных мест захоронения отходов на аэрофотоснимках с минимальным количеством маркированных данных. Предлагаемый подход использовал методы обучения с несколькими кадрами и синтетическую генерацию данных для повышения точности обнаружения, одновременно сводя к минимуму необходимость в обширных ручных аннотациях. Это исследование подчеркнуло, как ИИ может быть использован для эффективного решения реальных экологических проблем.
Еще одна важная статья, Машинное обучение с нулевыми отходами[1] , представил подход к оптимизации модели ИИ, основанный на устойчивости. Авторы предложили структуру, вдохновленную принципами круговой экономики, сосредоточившись на повторном использовании вычислений и знаний для повышения эффективности модели. Ключевые методы включали условные вычисления, непрерывное обучение и повторное использование ресурсов, гарантируя, что системы ИИ остаются ресурсоэффективными без ущерба для производительности.
Более широкая проблема управления многоагентным и многоцелевым принятием решений в контексте устойчивого развития была исследована в Мир — это многоцелевая многоагентная система: что теперь?[1] . В этом исследовании изучалось, как ИИ может решать конфликтующие приоритеты, такие как балансирование экологической устойчивости с экономическими целями. Интегрируя объяснимость и прозрачность в системы ИИ, исследование было направлено на повышение доверия и принятия в крупномасштабных приложениях принятия решений.
3. Улучшение активного обучения и оптимизации
Учебник «За пределами проб и ошибок»: Учебное пособие по автоматизированному обучению с подкреплением[4] предоставили информацию об автоматизации процессов обучения с подкреплением (RL). Методы AutoRL направлены на упрощение традиционно ручных задач, таких как настройка гиперпараметров и выбор алгоритмов, делая RL более доступным и адаптируемым к реальным приложениям. В руководстве также рассматривалось влияние гиперпараметров на чувствительность и производительность модели, что подчеркивает важность автоматизированных методов оптимизации.
Сопутствующее исследование, Анализ важности гиперпараметров для многоцелевого AutoML[1], исследовали роль настройки гиперпараметров в балансировке конкурирующих целей, таких как точность модели против вычислительных затрат. Авторы представили новые методы анализа для определения того, какие гиперпараметры оказывают наиболее существенное влияние, предоставляя ценные идеи для оптимизации многоцелевых моделей ИИ.
Помимо вышесказанного, Выживание наиболее приспособленных: эволюционная адаптация политики к изменениям окружающей среды[1] Введен эволюционный подход к обучению с подкреплением. В исследовании предложена эволюционная надежная оптимизация политики (ERPO), метод, позволяющий моделям ИИ адаптироваться к изменяющимся условиям без необходимости обширного переобучения. Это исследование имеет значение для приложений, где системы ИИ должны функционировать в динамических и непредсказуемых условиях, таких как робототехника и финансовое моделирование.
4. Применение ИИ в процессах и системах
Бумаги Ансамбли моделей с адаптивной памятью и пространственной специализацией для обнаружения промышленных аномалий[1] представила фреймворк, который динамически интегрирует несколько специализированных моделей для обнаружения аномалий в промышленных системах. Объединяя адаптацию памяти с пространственной специализацией, фреймворк повышает способность ИИ обрабатывать разнообразные и меняющиеся распределения данных. Этот подход оказался весьма эффективным в промышленных приложениях, где традиционные статические модели борются с дрейфом концепций и меняющимися условиями эксплуатации.
Другое важное исследование, Каскадная память для неконтролируемого обнаружения аномалий[1], справились с проблемой чрезмерного обобщения в неконтролируемых моделях. Многие существующие методы обнаружения аномалий испытывают трудности с различением нормальных и аномальных данных, что приводит к высоким показателям ложноположительных результатов. Предлагаемая архитектура каскадной памяти улучшает фокусировку на нормальных шаблонах, позволяя системе более эффективно изолировать аномалии. Метод продемонстрировал передовую производительность в различных наборах данных для эталонных тестов, особенно в сложных реальных сценариях.
Проверка моделей обнаружения аномалий без маркированных данных рассматривалась в На пути к неконтролируемой проверке модели[1] . В этом исследовании предлагается использовать «точно разнообразный» ансамбль моделей для оценки систем обнаружения аномалий, используя методы ранжирования на основе корреляции для оценки надежности модели. Предоставляя структурированный подход к неконтролируемой проверке, исследование способствовало тому, что обнаружение аномалий с помощью ИИ стало более надежным и масштабируемым.
5. ИИ общего назначения
Мастерская Понимание языка в эпоху человеко-машинного взаимодействия[5] исследовали развивающуюся роль больших языковых моделей (LLM) в таких приложениях, как разговорный ИИ и машинный перевод. Хотя LLM продемонстрировали впечатляющие возможности, семинар подчеркнул их ограничения в истинном понимании человеческого языка, особенно в контекстах, требующих глубокого рассуждения и контекстной осведомленности.
Наконец, бумага Предостережения и решения для характеристики ИИ общего назначения[1] взялись за более широкую задачу измерения общности и возможностей GPAI. Авторы предложили новые стратегии сравнительного анализа, включая тесты на адаптивность, которые оценивают производительность ИИ в разнообразных и меняющихся задачах. Они также выступили за междисциплинарные идеи из философии и когнитивной науки для уточнения концептуализации GPAI, подчеркивая важность прозрачности и объяснимости в оценке ИИ.
Резюме
ECAI исследовал ключевые темы, формирующие будущее ИИ, включая этику, устойчивость, оптимизацию и приложения в реальном мире. Обсуждения этики и справедливости подчеркнули важность прозрачных, беспристрастных систем ИИ, которые соответствуют человеческим ценностям.
Усилия по обеспечению устойчивости были сосредоточены на снижении воздействия ИИ на окружающую среду за счет энергоэффективных методов и ответственного использования ресурсов. Достижения в области активного обучения и оптимизации выдвинули на первый план методы автоматизации и адаптации систем ИИ к динамичным средам. В прикладном ИИ оптимизация процессов и инновации в принятии решений продемонстрировали практические решения для промышленных и общественных задач. На конференции также рассматривались сложности ИИ общего назначения, подчеркивалась необходимость адаптивности, прозрачности и междисциплинарного сотрудничества. В целом, ECAI подчеркнула разработку этичных, эффективных и адаптируемых систем ИИ для решения насущных глобальных проблем.
Референсы
[1] Протоколы ECAI 2024 – 27-я Европейская конференция по искусственному интеллекту (ECAI), 19–24 октября 2024 г., Сантьяго-де-Компостела, Испания. IOS Press. Доступно по адресу: https://ebooks.iospress.nl/volume/ecai-2024-27theuropean-conference-on-artificial-intelligence-1924-october-2024santiago-de-compostela-spain-including-pais-2024
[2] Семинар AIEB-ECAI 2024 – Внедрение этики ИИ через поведенческую призму. ECAI 2024. Доступно по адресу: https://aieb-ecai2024.framer.ai/
[3] МакКормак, Л. и Бендешач, М. (2024). Этическое управление ИИ: методы оценки надежности ИИ. arXiv. Доступно по адресу: https://arxiv.org/abs/2409.07473
[4] Учебное пособие ECAI 2024 AutoRL – За пределами проб и ошибок: Учебное пособие по автоматизированному обучению с подкреплением. Доступно по адресу: Ссылка
[5] Семинар LUHME, ECAI 2024 – Понимание языка в эпоху человеко-машин. Доступно по адресу: https://luhme.web.uah.es/
