Finansiering av bättre utvärderingar av AI:s påverkan på välbefinnande - Anthropic 2026

Beskrivning

Sammanfattning av utlysningen: Anthropic lanserar ett bidragsprogram på 5 miljoner dollar för att finansiera oberoende forskning om hur AI påverkar användares välbefinnande. Programmet ger direkt finansiering, tillgång till AI-modeller och tekniskt stöd till bidragsmottagare som bygger utvärderingsverktyg med öppen källkod.

Syfte med utlysningen: Att utveckla oberoende utvärderingar och riktmärken för att mäta hur AI-modeller påverkar användares välbefinnande. AI-system har blivit centrala för hur många arbetar, lär sig och löser problem, samt fungerar som samtalspartner och emotionellt stöd. Branschen saknar fortfarande tydliga standarder för hur modeller ska bete sig i känsliga konversationer.

Mål för utlysningen: Att bjuda in experter som kliniker, psykologer, metodologer och andra att bidra med sin expertis till detta framväxande och kritiska område. Utvärderingarna ska tydligt ange vad de mäter, involvera kliniska och ämnesexperter i design och validering, testa både försiktighetsåtgärder och skador, samt återspegla hur användare faktiskt använder AI.

Förväntad påverkan/resultat: Bidragsmottagare kommer att arbeta helt oberoende och publicera sitt arbete som projekt med öppen källkod som alla utvecklare kan använda. Detta ska hjälpa AI-industrin att mäta hur modeller påverkar användare och utveckla lämpliga säkerhetsåtgärder.

Finansieringsgrad: Programmet erbjuder direkt finansiering, tillgång till Anthropics modeller samt tekniskt stöd.

Behörighet: Forskare med expertis inom kliniska områden, psykologi, metodologi och relaterade fält är välkomna att söka. Utvärderingar ska validera sina bedömare mot verkliga ämnesexperter.

Tillgänglig finansiering (budget): Totalt 5 miljoner dollar (cirka 55 miljoner SEK) för hela programmet.