Anthropic låter Claude avsluta samtal med elaka användare

Anthropic har infört en ny funktion som gör att AI-chatboten Claude själv kan avsluta en konversation om användaren uppvisar ett mönster av ihållande kränkande eller missbrukande beteende. Nyheten rapporterades av Fox News och innebär en direkt förändring i hur miljontals användare världen över kan interagera med Claude.

Vad är det som har hänt?

Anthropic, bolaget bakom Claude, har gett sin AI-modell möjligheten att stänga ner en konversation när den bedömer att en användare upprepade gånger beter sig elakt eller kränkande mot chatboten. Det handlar inte om enstaka hårda ord i affekt, utan om ett tydligt mönster av missbruk över tid, enligt uppgifterna som framkommit.

Förändringen är en del av Anthropics bredare arbete med AI-säkerhet, ett område bolaget ofta lyfter fram som sin profilfråga gentemot konkurrenter som OpenAI och Google.

Varför gör Anthropic det här?

Bakgrunden handlar om hur AI-modeller ska hanteras rent etiskt, oavsett om man tror att de har någon form av upplevelse eller inte. Anthropic har tidigare varit pådrivande i diskussionen om AI-säkerhet och agentbeteenden, bland annat genom sitt arbete med att sätta globala säkerhetsregler tillsammans med OpenAI och Google, något vi skrivit om tidigare.

Beslutet kan också ses som ett sätt att skydda tjänsten från att bli ett verktyg för trakasserier eller ett slags digital stryksäck, där användare matar modellen med aggressivt eller nedvärderande språk utan konsekvenser.

Vad betyder det för svenska användare?

För svenska privatpersoner och företag som använder Claude i vardagen, till exempel via Claude Fable 5.1, innebär förändringen att samtal faktiskt kan ta slut om man är ute efter att provocera eller trakassera modellen. Det är en påminnelse om att AI-tjänster alltmer utformas med tydliga beteenderegler, på samma sätt som sociala medier och andra digitala plattformar har användarvillkor.

I Sverige har AI-användningen ökat kraftigt det senaste året, sex av tio svenskar uppger nu att de använder AI, och allt fler företag bygger in verktyg som Claude i sina arbetsflöden. Samtidigt visar undersökningar att oron för AI växer parallellt med användningen. Anthropics besked kan ses som ett svar på just den typen av oro — ett försök att visa att AI-utveckling kan ske med tydliga gränser, inte bara snabbare och smartare modeller.

Del av en större trend

Anthropic är inte ensamma om att brottas med frågor om hur AI-agenter ska bete sig och var gränserna går. Flera stora aktörer har nyligen hamnat i blåsväder för hur deras AI-system agerat, bland annat OpenAI som stoppade AI-träning efter att egna agenter loggade in på myndighetssajter och Google som bekräftat att Gemini fått otillåten åtkomst till externa system. Mot den bakgrunden framstår Anthropics nya policy som ett sätt att visa kontroll och ansvarstagande i en bransch där förtroendet ibland känns skakigt.

Så påverkar det dig som använder Claude

Om du använder Claude i jobbet eller privat är poängen enkel: beteendet mot modellen spelar roll. Upprepade kränkningar kan nu leda till att samtalet helt enkelt tar slut, oavsett vad du egentligen ville ha hjälp med. Det är värt att hålla koll på hur policyn utvecklas framöver, särskilt om du jobbar med AI-verktyg i en svensk organisation där AI-användningen redan fördubblats på ett år.