Förklarlig och robust AI (HORIZON-CL4-2024-HUMAN-01-06)

Beskrivning

Syftet med detta bidrag är att främja pålitlighet, robusthet och förklarbarhet hos AI-system. Det inkluderar medvetenhet om begränsningarna för driftssäkerheten hos systemet och möjligheten att förklara och redovisa hur systemet når sina slutsatser på ett meningsfullt sätt. Målet är att skapa förtroendevärdiga AI-lösningar som är robusta, säkra och pålitliga i realistiska situationer och som kan ge meningsfulla förklaringar när det är relevant. Projekt förväntas involvera forskare och utvecklare av AI-system samt användare av sådana system. Målgruppen inkluderar alla användare av AI-system som strävar efter att öka pålitligheten och förklarbarheten hos dessa system. Bidraget är öppet för forskningsorganisationer, universitet, företag och andra relevanta aktörer inom Europa. Det är viktigt att involvera experter inom samhällsvetenskap och humaniora, inklusive kunskap om kön och intersektionella olikheter, för att hantera bekymmer kring kön, ras eller andra typer av bias i AI-systemen. Samarbete med öppna innovationsutmaningar och följa standardiseringsprocesser är också en del av förväntningarna på projekten. Projekten bör också innehålla mekanismer för att mäta och visa framsteg samt dela resultat med den europeiska forsknings- och utvecklingsgemenskapen. Etiska principer och jämställdhet bör integreras i projekt från tidiga utvecklings- och designstadier. Internationellt samarbete, särskilt med Kanada och Indien, uppmuntras för att uppnå de förväntade resultaten.