올해 초에 저는 개인적, 전문적 성장을 이끌기 위해 목표와 주요 결과(OKR)를 설정했습니다. 저는 연구 프로젝트에 기여하고, 데이터 과학 인턴을 멘토링하고 교육하고, 28권의 책을 읽고 지식을 넓히고, EFSET 시험 점수를 15점 올려 영어 능력을 검증함으로써 OKR을 달성하기 위해 노력했습니다. 또한, 여러 과목에서 최고 점수를 받은 전문 분야를 완료하여 프로덕션을 위한 머신 러닝(MLOps)에 대한 전문성을 더욱 강화했습니다.
이러한 업적을 인정받아 Galaksiya는 저에게 ECAI 컨퍼런스에 참석할 기회를 주었습니다. 이 행사는 인공지능의 최신 발전에 대한 귀중한 통찰력을 제공하는 권위 있는 행사였습니다. 이 컨퍼런스는 시간을 거슬러 올라간 듯한 느낌이 드는 숨 막힐 듯한 도시 산티아고 데 콤포스텔라에서 열렸습니다. 자갈길과 중세 건축물을 걷다 보니 마치 14세기로 순간이동한 것 같았고, 역사책을 읽는 것 같았습니다. 도시의 아름다움과 풍부한 유산은 이 경험을 더욱 잊을 수 없게 만들었습니다. 이 블로그에서는 저의 여정과 컨퍼런스에서 얻은 주요 내용을 공유하겠습니다.
제27회 유럽인공지능대회(ECAI)
ECAI는 19년 24월 2024일부터 1,600일까지 개최되었으며, 전 세계 AI 연구 커뮤니티에서 XNUMX명 이상의 대표가 모였습니다.
이번 컨퍼런스는 기술 논문 발표, 워크숍, 튜토리얼, 초청 강연, 특별 세션을 포함한 포괄적인 프로그램을 특징으로 합니다. 이 블로그에서는 제가 행사 기간 동안 참석한 발표와 튜토리얼에 대한 요약을 제공합니다. 모든 기사는 [1] 에 게시됩니다.
주요 테마
A. 윤리와 공정성
인공지능 시스템의 책임성: 범용 인공지능과 관련된 위험을 해결하고 안전하고 윤리적인 배포를 보장하는 메커니즘을 구축합니다.
AI 오용: 특히 소셜 미디어와 같은 민감한 영역에서 AI를 악의적으로 사용하는 것과 같은 윤리적 딜레마를 다룹니다.
공정성과 포용성: AI 기반 의사결정 시스템에서 공평하고 비례적인 대표성을 옹호합니다.
AI의 설명 가능성: AI 시스템이 투명하고 해석 가능하도록 보장하여 신뢰와 이해를 증진하고, 이해관계자들이 의사 결정 과정을 이해할 수 있도록 합니다.
나. 지속 가능성
인공지능의 환경적 영향: 머신러닝 프로세스의 탄소 발자국 증가를 인식하고 지속 가능한 관행을 장려합니다.
효율적인 자원 활용: 자원 낭비를 최소화하고 AI 시스템의 효율성을 향상시켜 환경 피해를 줄이는 데 중점을 둡니다.
C. 능동 학습 및 최적화 강화
능동 학습: 목표 지향적 질의와 반례를 사용하여 스스로를 개선할 수 있는 더욱 스마트한 알고리즘을 개발하여 모델 효율성을 향상시키는 것입니다.
최적화: 기존 인공지능 계획 시스템의 성능을 개선하여 더욱 효과적이고 신뢰할 수 있도록 만드는 연구를 수행합니다.
D. 프로세스 및 시스템의 AI 응용 프로그램
선언적 프로세스: AI를 활용하여 프로세스 마이닝, 표현 및 합성을 최적화함으로써 워크플로 자동화를 향상시킵니다.
다중 에이전트 협업: 특히 복잡하고 다양한 목표를 가진 시나리오를 다룰 때 다중 에이전트 시스템의 과제와 기회를 탐구합니다.
이상 탐지: 인공 지능(AI)을 활용하여 오류, 사기 또는 시스템 장애를 나타낼 수 있는 데이터의 비정상적인 패턴이나 편차를 식별합니다. 여기에는 의사 결정을 강화하고 시스템 무결성을 유지하기 위한 실시간 모니터링 및 예측 분석이 포함됩니다.
E. 범용 AI
인공 일반 지능(AGI)의 정의, 평가 및 개선: 다양한 작업에서 작동할 수 있는 AI의 한계를 파악하고 표준화된 해결책을 제시하는 데 대한 관심이 높아지고 있습니다.
주요 방법
A. 대규모 언어 모델
B. 강화 학습
C. 다중 에이전트 시스템
D. 컴퓨터 비전
컨퍼런스 하이라이트
1. 윤리와 공정성
행동적 관점을 통한 AI 윤리 구현 [ 2] 워크숍에서는 공정성, 편향 감소 및 투명성을 강조하면서 AI 시스템을 인간의 가치에 맞추는 방법을 탐구했습니다. 또한 전통적인 정확도 지표를 넘어서 의료 분야의 환자 중심 지표와 같은 실제 문제를 반영하는 평가 방법을 채택해야 할 필요성을 강조했습니다. 이 워크숍에서는 데이터 유출을 방지하고 신뢰성을 보장하기 위해 견고한 다기관 평가 프로세스를 구현하는 것의 중요성에 대해서도 논의했습니다.
또 다른 주목할 만한 기여는 AI 평가 방법을 개념적, 수동적, 반자동적, 자동적 접근 방식으로 분류한 Ethical AI Governance: Methods for Evaluating Trustworthy AI [3] 였습니다 . 이 논문은 자동화 도구가 편향 및 설명 가능성 문제를 효율적으로 감지할 수 있지만, 미묘한 윤리적 의사 결정을 위해서는 인간의 감독이 여전히 필수적이라고 주장했습니다. 또한 신뢰성 평가의 표준화 부족 및 불일치와 같은 문제점을 다루면서 통일된 평가 프레임워크의 필요성을 강조했습니다.
또한 PEACE(Providing Explanations and Analysis for Combating Hate Expressions) [1] 논문은 기존 모델이 종종 간과하는 미묘하고 숨겨진 혐오 발언을 탐지하도록 설계된 웹 도구를 소개했습니다. PEACE는 시각화 도구와 설명 가능한 AI 기술을 통합하여 콘텐츠 관리자가 온라인 플랫폼 전반에 걸쳐 명시적 및 암묵적 혐오 발언을 더 잘 이해하고 처리할 수 있도록 지원합니다.
2. 지속 가능성
더 많은(충분한) 것이 더 좋다: 소수샷 불법 매립 폐기물 분할을 향하여 [1] 은 최소한의 레이블링된 데이터로 항공 이미지에서 불법 폐기물 매립지를 탐지하는 문제를 다루었습니다. 제안된 접근 방식은 소수샷 학습 기법과 합성 데이터 생성을 활용하여 탐지 정확도를 향상시키면서 광범위한 수동 주석의 필요성을 최소화했습니다. 이 연구는 AI를 사용하여 실제 환경 문제를 효율적으로 해결할 수 있는 방법을 강조했습니다.
또 다른 중요한 논문인 Zero-Waste Machine Learning [1] 에서는 AI 모델 최적화에 대한 지속가능성 중심 접근 방식을 소개했습니다. 저자들은 순환 경제 원칙에서 영감을 받은 프레임워크를 제안했으며, 모델 효율성을 향상시키기 위해 계산과 지식을 재사용하는 데 중점을 두었습니다. 주요 기술에는 조건부 계산, 지속적 학습 및 자원 재활용이 포함되어 AI 시스템이 성능을 희생하지 않고 자원 효율성을 유지하도록 보장합니다.
지속가능성 맥락에서 다중 에이전트 및 다중 목표 의사결정 관리라는 더 광범위한 과제는 The World is a Multi-Objective Multi-AgentSystem: Now What? [1] 에서 탐구 되었습니다. 이 연구는 AI가 환경 지속가능성과 경제적 목표의 균형과 같은 상충되는 우선순위를 어떻게 해결할 수 있는지 살펴보았습니다. 설명 가능성과 투명성을 AI 시스템에 통합함으로써, 이 연구는 대규모 의사결정 응용 분야에서 신뢰와 채택률을 향상시키는 것을 목표로 했습니다.
3. 능동 학습 및 최적화 강화
[4] "시행착오를 넘어서: 자동화된 강화 학습에 대한 튜토리얼" 튜토리얼은 강화 학습(RL) 프로세스의 자동화에 대한 통찰력을 제공했습니다. AutoRL 방법은 하이퍼파라미터 튜닝 및 알고리즘 선택과 같은 기존의 수동 작업을 간소화하여 RL을 실제 응용 분야에 더욱 쉽게 접근하고 적용할 수 있도록 하는 것을 목표로 합니다. 이 튜토리얼은 또한 하이퍼파라미터가 모델 민감도 및 성능에 미치는 영향을 다루어 자동화된 최적화 기술의 중요성을 강조했습니다.
관련 연구인 Hyperparameter Importance Analysis for Multi-Objective AutoML [1] 에서는 모델 정확도와 계산 비용과 같은 경쟁 목표의 균형을 맞추는 데 있어 하이퍼파라미터 튜닝의 역할을 탐구했습니다. 저자들은 어떤 하이퍼파라미터가 가장 큰 영향을 미치는지 식별하기 위한 새로운 분석 기법을 도입하여 다목적 AI 모델 최적화에 대한 귀중한 통찰력을 제공했습니다.
또한, Survival of the Fittest: Evolutionary Adaptation of Policies for Environmental Shifts [1] 에서는 강화 학습에 대한 진화 기반 접근 방식을 소개했습니다. 이 연구는 광범위한 재학습 없이도 AI 모델이 변화하는 환경에 적응할 수 있도록 하는 기술인 진화적 강건 정책 최적화(Evolutionary Robust Policy Optimization, ERPO)를 제안했습니다. 이 연구는 로봇 공학 및 금융 모델링과 같이 AI 시스템이 역동적이고 예측 불가능한 환경에서 작동해야 하는 응용 분야에 중요한 의미를 갖습니다.
4. 프로세스 및 시스템의 AI 응용 프로그램
[1] 논문 "산업 이상 탐지를 위한 메모리 적응형 및 공간 특화 모델 앙상블"에서는 산업 시스템의 이상을 탐지하기 위해 여러 특화 모델을 동적으로 통합하는 프레임워크를 소개했습니다. 이 프레임워크는 메모리 적응과 공간 특화를 결합하여 다양하고 변화하는 데이터 분포를 처리하는 AI의 능력을 향상시킵니다. 이러한 접근 방식은 기존의 정적 모델이 개념 변화 및 운영 조건 변화에 어려움을 겪는 산업 응용 분야에서 매우 효과적인 것으로 입증되었습니다.
관련 연구 중 하나인 "비지도 이상 탐지를 위한 캐스케이드 메모리" [1] 는 비지도 모델의 과잉 일반화 문제를 다루었습니다. 기존의 많은 이상 탐지 방법은 정상 데이터와 비정상 데이터를 구분하는 데 어려움을 겪어 높은 오탐률을 초래합니다. 제안된 캐스케이드 메모리 아키텍처는 정상 패턴에 초점을 맞추면서 시스템이 이상을 더욱 효과적으로 분리할 수 있도록 합니다. 이 방법은 특히 복잡한 실제 시나리오에서 다양한 벤치마크 데이터 세트에서 최첨단 성능을 보여주었습니다.
레이블이 지정되지 않은 데이터의 이상 탐지 모델 검증은 Towards Unsupervised Model Validation [1] 에서 다루어졌습니다 . 이 연구는 상관관계 기반 순위 기법을 활용하여 모델의 신뢰성을 평가하고, 이상 탐지 시스템을 평가하기 위해 "정확하게 다양한" 모델 앙상블을 사용하는 것을 제안했습니다. 비지도 검증에 대한 구조화된 접근 방식을 제공함으로써, 이 연구는 AI 기반 이상 탐지를 더욱 견고하고 확장 가능하게 만드는 데 기여했습니다.
5. 범용 AI
인간-기계 시대의 언어 이해 워크숍 [5] 에서는 대화형 AI 및 기계 번역과 같은 응용 분야에서 대규모 언어 모델(LLM)의 진화하는 역할을 탐구했습니다. LLM은 인상적인 기능을 보여주었지만, 워크숍에서는 특히 심층적인 추론과 맥락 인식이 필요한 맥락에서 인간 언어를 진정으로 이해하는 데 있어 한계가 있음을 강조했습니다.
마지막으로, 논문 「범용 인공지능의 특성화를 위한 주의사항 및 해결책」[1] 은 GPAI의 일반성과 역량을 측정하는 더 광범위한 과제를 다루었습니다. 저자들은 다양하고 변화하는 작업에 걸쳐 AI 성능을 평가하는 적응성 테스트를 포함한 새로운 벤치마킹 전략을 제안했습니다. 또한 GPAI의 개념화를 정교화하기 위해 철학과 인지과학의 학제 간 통찰력을 활용할 것을 주장하며, AI 평가에서 투명성과 설명 가능성의 중요성을 강조했습니다.
제품 개요
ECAI는 윤리, 지속 가능성, 최적화, 실제 적용을 포함하여 AI의 미래를 형성하는 주요 주제를 탐구했습니다. 윤리와 공정성에 대한 논의는 인간의 가치와 일치하는 투명하고 편견 없는 AI 시스템의 중요성을 강조했습니다.
지속 가능성 노력은 에너지 효율적인 방법과 책임 있는 자원 사용을 통해 AI의 환경적 영향을 줄이는 데 중점을 두었습니다. 능동적 학습 및 최적화의 발전은 AI 시스템을 자동화하고 역동적인 환경에 적응시키는 기술을 강조했습니다. 응용 AI에서 프로세스 최적화 및 의사 결정 혁신은 산업 및 사회적 과제에 대한 실용적인 솔루션을 선보였습니다. 이 컨퍼런스는 또한 범용 AI의 복잡성을 조사하여 적응성, 투명성 및 학제 간 협업의 필요성을 강조했습니다. 전반적으로 ECAI는 긴급한 글로벌 과제를 해결하기 위해 윤리적이고 효율적이며 적응 가능한 AI 시스템의 개발을 강조했습니다.
참고자료
[1] ECAI 2024 Proceedings – 제27회 유럽 인공지능 학회(ECAI), 2024년 10월 19-24일, 스페인 산티아고 데 콤포스텔라. IOS Press. 다음에서 이용 가능: https://ebooks.iospress.nl/volume/ecai-2024-27theuropean-conference-on-artificial-intelligence-1924-october-2024santiago-de-compostela-spain-including-pais-2024
[2] AIEB-ECAI 2024 워크숍 – 행동적 관점을 통한 AI 윤리 구현. ECAI 2024. 다음에서 이용 가능: https://aieb-ecai2024.framer.ai/
[3] McCormack, L., & Bendechache, M. (2024) . 윤리적 AI 거버넌스: 신뢰할 수 있는 AI 평가 방법. arXiv. 이용 가능 주소: https://arxiv.org/abs/2409.07473
[4] ECAI 2024 AutoRL 튜토리얼 – 시행착오를 넘어서: 자동 강화 학습에 대한 튜토리얼. 다음 링크에서 이용 가능: 링크
[5] LUHME 워크숍, ECAI 2024 – 인간-기계 시대의 언어 이해. 다음에서 이용 가능: https://luhme.web.uah.es/
