Förbättra säkerheten, integriteten och robustheten hos AI-modeller och system (SecureAI) (HORIZON-CL3-2026-02-CS-ECCC-02)

Beskrivning

Sammanfattning av utlysningen: Denna Horizon Europe Innovation Action (HORIZON-IA) finansierar projekt som utvecklar robusta och säkra AI-system som kan motstå adversarial attacker, datamanipulation och andra säkerhetshot, särskilt i kritiska tillämpningar som cybersäkerhet och beslutsstödssystem.

Syfte med utlysningen: Syftet är att stärka säkerheten och tillförlitligheten i AI-system genom att utveckla metoder som skyddar modeller och data mot manipulation, samtidigt som integritet och regulatorisk efterlevnad (t.ex. AI-förordningen) säkerställs.

Mål för utlysningen:

• Utveckla robusta AI-modeller som är motståndskraftiga mot adversarial attacker.
• Identifiera och hantera manipulerad eller förgiftad träningsdata (data poisoning, backdoors).
• Utveckla realtidsdetektering och mitigering av attacker mot AI-system.
• Utveckla Private AI-lösningar med integritetsskyddande tekniker (t.ex. federated learning, homomorphic encryption och secure inference).

Förväntade effekter/resultat:

• AI-system som är mer motståndskraftiga mot attacker och manipulation.
• Effektiva metoder för att upptäcka och hantera datamanipulation i AI-träning.
• Integritetsbevarande AI-lösningar som kan användas i känsliga miljöer som myndigheter och företag.
• Förbättrad tillförlitlighet och säkerhet i AI-baserade besluts- och cybersäkerhetssystem.

Finansieringsgrad: Horizon Europe Innovation Action (IA) – normalt 70 % finansiering för företag och 100 % för icke-vinstdrivande organisationer (plus 25 % indirekta kostnader enligt Horizon-regler).

Behörighet: Organisationer etablerade i EU-medlemsstater eller Horizon Europe-associerade länder, inklusive företag, universitet, forskningsinstitut och offentliga organisationer.

Möjliga krav på konsortier: Minst 3 oberoende organisationer från 3 olika EU- eller associerade länder (standardkrav för Horizon Europe).