Aan het begin van het jaar stelde ik Objectives and Key Results (OKR's) op om mijn persoonlijke en professionele groei te stimuleren. Ik werkte aan mijn OKR's door bij te dragen aan een onderzoeksproject, een stagiair te begeleiden en op te leiden in data science, mijn kennis uit te breiden door 28 boeken te lezen en mijn EFSET-examenscore met 15 punten te verbeteren om mijn Engelse taalvaardigheid te kwalificeren. Daarnaast verdiepte ik mijn expertise in Machine Learning for Production (MLOps) door een specialisatie te voltooien met topscores in meerdere cursussen.
Ter erkenning van deze prestaties vereerde Galaksiya mij met de mogelijkheid om de ECAI-conferentie bij te wonen, een prestigieus evenement dat onschatbare inzichten bood in de nieuwste ontwikkelingen op het gebied van kunstmatige intelligentie. De conferentie werd gehouden in de adembenemende stad Santiago de Compostela, een plek waar het voelde alsof ik terug in de tijd ging. Toen ik door de geplaveide straten en middeleeuwse architectuur liep, voelde het alsof ik plotseling naar de 14e eeuw was geteleporteerd, door de pagina's van een geschiedenisboek liep. De schoonheid en het rijke erfgoed van de stad maakten deze ervaring nog onvergetelijker. In deze blog deel ik mijn reis en de belangrijkste inzichten van de conferentie.
De 27e Europese conferentie over kunstmatige intelligentie (ECAI)
ECAI vond plaats van 19 tot en met 24 oktober 2024 en bracht meer dan 1,600 afgevaardigden uit de wereldwijde AI-onderzoeksgemeenschap bijeen.
De conferentie bood een uitgebreid programma, inclusief presentaties van technische papers, workshops, tutorials, uitgenodigde lezingen en speciale sessies. In deze blog geef ik een samenvatting van de presentaties en tutorials die ik tijdens het evenement heb bijgewoond. Alle artikelen zijn gepubliceerd in [1].
Kernthema's
A. Ethiek en eerlijkheid
Verantwoordelijkheid in AI-systemen: het aanpakken van de risico's die verbonden zijn aan algemene AI en het creëren van mechanismen om een veilige en ethische implementatie te garanderen.
Misbruik van AI: Het aanpakken van ethische dilemma's zoals misbruik van AI, met name in gevoelige gebieden zoals sociale media.
Rechtvaardigheid en inclusiviteit: pleiten voor een evenwichtige en evenredige vertegenwoordiging in AI-gestuurde besluitvormingssystemen.
Verklaarbaarheid in AI: ervoor zorgen dat AI-systemen transparant en interpreteerbaar zijn om vertrouwen en begrip te bevorderen, zodat belanghebbenden kunnen begrijpen hoe beslissingen worden genomen.
B. Duurzaamheid
Milieu-impact van AI: Erkenning van de groeiende CO2-voetafdruk van machine learning-processen en bevordering van duurzame praktijken.
Efficiënt gebruik van hulpbronnen: gericht op het minimaliseren van verspilling van hulpbronnen en het verbeteren van de efficiëntie van AI-systemen om milieuschade te verminderen.
C. Verbetering van actief leren en optimalisatie
Actief leren: het ontwikkelen van slimmere algoritmen die zichzelf kunnen verfijnen met behulp van gerichte zoekopdrachten en tegenvoorbeelden, wat leidt tot een betere modelefficiëntie.
Optimalisatie: Het uitvoeren van studies om de prestaties van klassieke AI-planningssystemen te verbeteren, zodat ze effectiever en betrouwbaarder worden.
D. AI-toepassingen in processen en systemen
Declaratieve processen: AI gebruiken om procesmining, -representatie en -synthese te optimaliseren voor betere workflowautomatisering.
Samenwerking tussen meerdere agenten: een verkenning van de uitdagingen en mogelijkheden van systemen met meerdere agenten, met name bij het aanpakken van complexe scenario's met meerdere doelstellingen.
Anomaliedetectie: gebruikmaken van AI om ongebruikelijke patronen of afwijkingen in data te identificeren die kunnen wijzen op fouten, fraude of systeemstoringen. Dit omvat realtime monitoring en voorspellende analyses om de besluitvorming te verbeteren en de systeemintegriteit te waarborgen.
E. Algemene AI
Het definiëren, evalueren en verbeteren van AGI: Er is steeds meer aandacht voor het identificeren van beperkingen en het voorstellen van gestandaardiseerde oplossingen voor AI die uiteenlopende taken kan uitvoeren.
Belangrijkste methoden
A. Grote taalmodellen
B. Versterkend leren
C. Multi-Agent Systemen
D. Computervisie
Hoogtepunten van de conferentie
1. Ethiek en eerlijkheid
De workshop ' Implementing AI Ethics Through a Behavioral Lens' [2] onderzocht hoe AI-systemen in lijn kunnen worden gebracht met menselijke waarden, met de nadruk op eerlijkheid, het verminderen van vooringenomenheid en transparantie. Er werd benadrukt dat het nodig is om verder te gaan dan traditionele nauwkeurigheidsmetrieken en evaluatiemethoden te hanteren die de uitdagingen in de praktijk weerspiegelen, zoals patiëntgerichte metrieken in de gezondheidszorg. De workshop besprak ook het belang van het voorkomen van datalekken en het implementeren van robuuste evaluatieprocessen met meerdere centra om de betrouwbaarheid te waarborgen.
Een andere opmerkelijke bijdrage was Ethical AI Governance: Methods for Evaluating Trustworthy AI [3] , waarin AI-evaluatiemethoden werden gecategoriseerd in conceptuele, handmatige, semi-automatische en geautomatiseerde benaderingen. In het artikel werd betoogd dat hoewel geautomatiseerde tools efficiënt bias en verklaarbaarheidsproblemen kunnen detecteren, menselijk toezicht essentieel blijft voor genuanceerde ethische besluitvorming. Uitdagingen zoals het gebrek aan standaardisatie en inconsistenties in betrouwbaarheidsbeoordelingen werden ook aan de orde gesteld, waarbij de noodzaak van uniforme evaluatiekaders werd benadrukt.
Daarnaast introduceerde het PEACE-document (Providing Explanations and Analysis for Combating Hate Expressions) [1] een webtool die is ontworpen om subtiele en verborgen haatspraak te detecteren die traditionele modellen vaak over het hoofd zien. Door visualisatietools en uitlegbare AI-technieken te integreren, helpt PEACE contentmoderators om zowel expliciete als impliciete haatspraak op online platforms beter te begrijpen en aan te pakken.
2. duurzaamheid
Meer (genoeg) is beter: Naar segmentatie van illegaal stortafval met weinig opnames [1] behandelde de uitdaging om illegale stortplaatsen in luchtfoto's te detecteren met minimale gelabelde gegevens. De voorgestelde aanpak maakte gebruik van few-shot learning-technieken en het genereren van synthetische gegevens om de detectienauwkeurigheid te verbeteren en tegelijkertijd de behoefte aan uitgebreide handmatige annotaties te minimaliseren. Dit onderzoek benadrukte hoe AI efficiënt kan worden ingezet om reële milieuproblemen aan te pakken.
Een ander belangrijk artikel, Zero-Waste Machine Learning [1] , introduceerde een duurzaamheidsgedreven benadering voor de optimalisatie van AI-modellen. De auteurs stelden een raamwerk voor dat geïnspireerd is op de principes van de circulaire economie, met de nadruk op het hergebruik van berekeningen en kennis om de efficiëntie van modellen te verbeteren. Belangrijke technieken waren onder meer conditionele berekening, continu leren en het recyclen van resources, waardoor AI-systemen resource-efficiënt blijven zonder dat dit ten koste gaat van de prestaties.
De bredere uitdaging van het beheren van besluitvorming met meerdere agenten en meerdere doelstellingen in duurzaamheidscontexten werd onderzocht in The World is a Multi-Objective Multi-AgentSystem: Now What? [1] . Deze studie onderzocht hoe AI conflicterende prioriteiten kan aanpakken, zoals het balanceren van ecologische duurzaamheid met economische doelen. Door verklaarbaarheid en transparantie in AI-systemen te integreren, wilde het onderzoek het vertrouwen in en de acceptatie van grootschalige besluitvormingstoepassingen verbeteren.
3. Verbetering van actief leren en optimalisatie
De tutorial Beyond Trial & Error: A Tutorial on Automated Reinforcement Learning [4] gaf inzicht in de automatisering van reinforcement learning (RL)-processen. AutoRL-methoden zijn erop gericht om traditioneel handmatige taken, zoals het afstemmen van hyperparameters en het selecteren van algoritmen, te stroomlijnen, waardoor RL toegankelijker en beter aanpasbaar wordt aan toepassingen in de praktijk. De tutorial behandelde ook de impact van hyperparameters op de gevoeligheid en prestaties van het model, waarmee het belang van geautomatiseerde optimalisatietechnieken werd benadrukt.
Een verwante studie, Hyperparameter Importance Analysis for Multi-Objective AutoML [1] , onderzocht de rol van hyperparameter-tuning bij het balanceren van concurrerende doelstellingen, zoals modelnauwkeurigheid versus rekenkosten. De auteurs introduceerden nieuwe analysetechnieken om te bepalen welke hyperparameters de grootste impact hebben, wat waardevolle inzichten oplevert voor het optimaliseren van multi-objectieve AI-modellen.
Daarnaast introduceerde Survival of the Fittest: Evolutionary Adaptation of Policies for Environmental Shifts [1] een op evolutie gebaseerde benadering van reinforcement learning. De studie stelde Evolutionary Robust Policy Optimization (ERPO) voor, een techniek waarmee AI-modellen zich kunnen aanpassen aan veranderende omgevingen zonder uitgebreide hertraining. Dit onderzoek heeft implicaties voor toepassingen waarbij AI-systemen moeten functioneren in dynamische en onvoorspelbare omgevingen, zoals robotica en financiële modellering.
4. AI-toepassingen in processen en systemen
Het artikel Memory Adaptive and Spatially Specialized Model Ensembles for Industrial Anomaly Detection [1] introduceerde een raamwerk dat dynamisch meerdere gespecialiseerde modellen integreert voor het detecteren van anomalieën in industriële systemen. Door geheugenadaptatie te combineren met ruimtelijke specialisatie, verbetert het raamwerk het vermogen van AI om diverse en veranderende datadistributies te verwerken. Deze aanpak bleek zeer effectief in industriële toepassingen waar traditionele statische modellen moeite hebben met conceptdrift en veranderende operationele omstandigheden.
Een andere relevante studie, Cascade Memory for Unsupervised Anomaly Detection [1] , behandelde de uitdaging van overgeneralisatie in onbegeleide modellen. Veel bestaande methoden voor anomaliedetectie hebben moeite om onderscheid te maken tussen normale en abnormale data, wat leidt tot hoge percentages valse positieven. De voorgestelde cascade-geheugenarchitectuur verfijnt de focus op normale patronen, terwijl het systeem tegelijkertijd anomalieën effectiever kan isoleren. De methode liet state-of-the-art prestaties zien op verschillende benchmarkdatasets, met name in complexe scenario's uit de praktijk.
De validatie van modellen voor anomaliedetectie zonder gelabelde data werd behandeld in Towards Unsupervised Model Validation [1] . In deze studie werd voorgesteld om een "nauwkeurig divers" ensemble van modellen te gebruiken om anomaliedetectiesystemen te evalueren, waarbij correlatiegebaseerde rangschikkingstechnieken werden ingezet om de betrouwbaarheid van het model te beoordelen. Door een gestructureerde aanpak voor onbegeleide validatie te bieden, droeg het onderzoek bij aan het robuuster en schaalbaarder maken van AI-gestuurde anomaliedetectie.
5. Algemene AI
De workshop Taalbegrip in het tijdperk van mens en machine [5] onderzocht de evoluerende rol van grote taalmodellen (LLM's) in toepassingen zoals conversationele AI en machinale vertaling. Hoewel LLM's indrukwekkende mogelijkheden hebben laten zien, benadrukte de workshop hun beperkingen in het werkelijk begrijpen van menselijke taal, met name in contexten die diepgaand redeneren en contextbewustzijn vereisen.
Ten slotte behandelde het artikel Caveats and Solutions for Characterizing General-Purpose AI [1] de bredere uitdaging van het meten van de generaliteit en capaciteit van GPAI. De auteurs stelden nieuwe benchmarkstrategieën voor, waaronder aanpassingsvermogenstests die de prestaties van AI beoordelen bij diverse en veranderende taken. Ze pleitten ook voor interdisciplinaire inzichten uit de filosofie en de cognitieve wetenschap om de conceptualisering van GPAI te verfijnen, waarbij ze het belang van transparantie en verklaarbaarheid bij AI-evaluatie benadrukten.
Samenvatting
De ECAI onderzocht belangrijke thema's die de toekomst van AI vormgeven, waaronder ethiek, duurzaamheid, optimalisatie en real-world toepassingen. Discussies over ethiek en eerlijkheid benadrukten het belang van transparante, onpartijdige AI-systemen die aansluiten bij menselijke waarden.
Duurzaamheidsinspanningen waren gericht op het verminderen van de milieu-impact van AI door middel van energiezuinige methoden en verantwoord gebruik van hulpbronnen. Vooruitgang in actief leren en optimalisatie benadrukten technieken voor het automatiseren en aanpassen van AI-systemen aan dynamische omgevingen. In toegepaste AI lieten procesoptimalisatie en innovaties in besluitvorming praktische oplossingen zien voor industriële en maatschappelijke uitdagingen. De conferentie onderzocht ook de complexiteit van algemene AI, waarbij de nadruk werd gelegd op de noodzaak van aanpasbaarheid, transparantie en interdisciplinaire samenwerking. Over het algemeen benadrukte ECAI de ontwikkeling van ethische, efficiënte en aanpasbare AI-systemen om dringende wereldwijde uitdagingen aan te pakken.
Referenties
[1] ECAI 2024 Proceedings – 27e Europese conferentie over kunstmatige intelligentie (ECAI), 19-24 oktober 2024, Santiago de Compostela, Spanje. IOS Press. Beschikbaar op: https://ebooks.iospress.nl/volume/ecai-2024-27theuropean-conference-on-artificial-intelligence-1924-october-2024santiago-de-compostela-spain-including-pais-2024
[2] AIEB-ECAI 2024 Workshop – Implementatie van AI-ethiek vanuit een gedragsmatig perspectief. ECAI 2024. Beschikbaar op: https://aieb-ecai2024.framer.ai/
[3] McCormack, L., & Bendechache, M. (2024) . Ethisch AI-bestuur: Methoden voor het evalueren van betrouwbare AI. arXiv. Beschikbaar op: https://arxiv.org/abs/2409.07473
[4] ECAI 2024 AutoRL-handleiding – Voorbij vallen en opstaan: een handleiding over geautomatiseerd versterkingsleren. Beschikbaar op: Link.
[5] LUHME Workshop, ECAI 2024 – Taalbegrip in het tijdperk van mens-machine. Beschikbaar op: https://luhme.web.uah.es/
