Bedömningsmetoder för generella AI-funktioner och risker (HORIZON-CL4-2025-04-DIGITAL-EMERGING-04)

Beskrivning

Sammanfattning av vad utlysningen handlar om: Denna utlysning fokuserar på att utveckla nya metoder och verktyg för att utvärdera kapaciteter, risker och egenskaper hos general-purpose AI (GPAI)-modeller, inklusive multimodala system. Det handlar om att skapa robusta ramverk som möjliggör både teknisk och samhällelig bedömning av GPAI, i linje med EU:s AI-förordning (AI Act).

Syfte med utlysningen: Att ta fram nya metoder, verktyg och testbäddar för att säkerställa att GPAI-system är tillförlitliga, rättvisa och i linje med mänskliga värderingar. Arbetet ska också stödja AI-kontorets framtida tillsyns- och utvärderingsarbete inom ramen för AI Act.

Mål för utlysningen: Att utveckla vetenskapligt underbyggda bedömningsramverk som:

• Identifierar nya och oväntade kapaciteter hos GPAI-system.
• Bedömer modeller utifrån potentiell påverkan och risker, t.ex. inom cybersäkerhet eller CBRN-hot (kemiska, biologiska, radiologiska och nukleära risker).
• Bidrar till transparens, förklarbarhet och ansvar i användning av GPAI.
• Utvecklar tillgängliga benchmark-tester och verktyg för aktörer i ekosystemet.

Förväntad påverkan/resultat: Resultaten ska bidra till förbättrad riskbedömning, ökad transparens och stärkt förmåga hos EU:s institutioner, GPAI-utvecklare och andra aktörer att säkert hantera GPAI-system. Detta inkluderar verktyg som stödjer AI-kontoret i dess tillsynsansvar enligt AI Act.

Finansieringsgrad: EU täcker upp till 100 % av godkända kostnader (Research and Innovation Action – RIA).

Behörighet: Universitet, forskningsinstitut, företag, offentliga aktörer och ideella organisationer från medlemsländer i EU eller associerade länder till Horisont Europa.

Möjliga krav på konsortier: Konsortier bör inkludera tvärvetenskaplig kompetens, särskilt med bidrag från samhällsvetenskapliga och humanistiska discipliner (SSH), samt aktörer med teknisk expertis inom AI-utveckling och utvärdering. Internationellt samarbete och brett deltagande inom EU uppmuntras.