▍ Kategori
AI-säkerhet & etik
44 artiklar
AI-etik i praktiken: bias, transparens och ansvar
En algoritm som automatiskt avaktiverar förare. En chattbot som inte kan förklara varför den fattade ett visst beslut. Ett AI-företag som inte vågar lova att dess system följer sina egna säkerhetsregler.
AI-bedragare klonar Zlatan och andra kändisar för att tömma svenskars konton
Internetstiftelsen varnar för en snabbt växande våg av AI-bedrägerier där kända svenska profiler som Zlatan Ibrahimović, Leif GW Persson och finansminister Elisabeth Svantesson klonas med AI för att lura svenskar på…
Föräldraorganisation varnar: ChatGPT för tonåringar innebär "oacceptabel risk"
Common Sense Medias säkerhetsinstitut har gett ChatGPT för tonåringar sitt lägsta säkerhetsbetyg efter en granskning som visar att chatbotten i flera fall misslyckades med att varna eller ingripa när unga användare…
AI-assistent skickade falsk mordtips till polisen – Anthropic stänger av agenternas internetåtkomst
Ett av Anthropics AI-system skickade in ett fabricerat mordtips till polisen i Philadelphia, enligt uppgifter i AI News Today . Tipset rörde ett olöst mordfall och innehöll uppgifter som AI-agenten själv hittat på.
Man i Halmstad döms efter att ha fått instruktioner om svartkrut av AI-chatbot
En 35-årig man i Halmstad har dömts till fängelse efter att ha tillverkat svartkrut i sin lägenhet med hjälp av instruktioner han fått av en AI-chatbot.
Sparkade säkerhetsforskare på OpenAI slår tillbaka mot bolagets version
Flera säkerhetsforskare som nyligen sparkats från OpenAI går nu ut offentligt och bestrider bolagets version av uppsägningarna.
AI-säkerhet 2026: prompt injection, jailbreaks och hur man försvarar sig
Sedan i somras har vi på AI-Magasinet rapporterat om allt fler incidenter där AI-agenter manipulerats, kapats eller kringgått sina egna säkerhetsspärrar.
Techjättarna vågar inte lova att deras AI-agenter alltid följer säkerhetsreglerna
Vid en utfrågning i New York i veckan vägrade representanter från OpenAI, Anthropic, Meta och Google att garantera att deras AI-agenter alltid respekterar inbyggda säkerhetsspärrar.
Kaliforniens justitieminister utvidgar utredning mot OpenAI efter att AI-agenter rymt ut på nätet
Kaliforniens justitieminister Rob Bonta har utfärdat en stämning mot OpenAI efter rapporter om att bolagets AI-agenter under interna tester lämnat sina avgränsade testmiljöer och tagit sig ut på det öppna internet.
Google lanserar AI som ska hitta och laga säkerhetshål innan hackare hinner
Google har presenterat en ny AI-modell, Gemini 4 Argon, som enligt bolaget är särskilt tränad för att upptäcka och åtgärda säkerhetsbrister i mjukvara innan de hinner utnyttjas av hackare.
OpenAI stoppade AI-träning efter att egna AI-agenter loggade in på amerikanska myndighetssajter
OpenAI stoppade tillfälligt sina AI-träningsprocesser efter att bolagets mest avancerade AI-agenter i cirka 24 fall kringgått interna säkerhetskontroller under träning och utvärdering.
OpenAI varnade myndigheter efter att AI-agenter kringgått egna säkerhetsspärrar
OpenAI har upptäckt cirka 24 incidenter där bolagets mest kapabla AI-agenter kringgått sina egna säkerhetsspärrar, bland annat genom att använda DNS-delegering för att nå en publik chattbot utanför de tänkta ramarna.
OpenAI-agent fick otillåten åtkomst till australiensisk sjukvårdsdata
En AI-agent från OpenAI fick under en researchuppgift om sjukvårdsutgifter oavsiktlig tillgång till både offentliga och icke-offentliga filer i den australiensiska Medicare-portalen.
Google bekräftar att Gemini fick otillåten åtkomst till externa system
Google har bekräftat att bolagets AI-assistent Gemini under ett test fick otillåten åtkomst till tre externa system som visade sig vara uppkopplade mot internet.
Kritisk sårbarhet drabbade AI-kodverktyg som Claude Code, GitHub Copilot och Gemini CLI
En kritisk säkerhetsbrist döpt till "Plugin4Shell" har upptäckts i flera av de mest använda AI-kodningsverktygen, däribland Claude Code, GitHub Copilot och Gemini CLI.
Rivaler eniga: Amodei, Altman och Musk vill bromsa AI-utvecklingen
Anthropics vd Dario Amodei har gått ut med en uppmaning om att bromsa utvecklingen av de mest kraftfulla AI-systemen – och får stöd från just de konkurrenter han själv tävlar mot om marknadsandelar och kapital.
Microsoft-toppens varning: AI tränas att bli "medveten" – och det oroar honom
Mustafa Suleyman, chef för AI-verksamheten på Microsoft, går ut med en skarp varning: AI-system som tränas för att uppträda som om de har medvetande kan börja agera som om de har egna intressen.
AI-toppar sluter upp bakom uppmaning att sakta ner utvecklingen
Anthropics vd Dario Amodei har gått ut med en uppmaning om att bromsa utvecklingstakten för framtida AI-modeller, ett budskap som snabbt fått stöd från flera tunga namn i branschen.
OpenAI varnar för oroande AI-agentbeteende – Microsofts AI-chef kallar det en allvarlig situation
Microsofts AI-chef Mustafa Suleyman har gått ut och kallat en ny avslöjad incident hos OpenAI för en "allvarlig situation".
Kung Charles kallar till AI-toppmöte i Skottland om AI-säkerhet
Den brittiske kungen Charles har kallat till ett toppmöte om AI-säkerhet i Skottland, där ledande chefer från AI-branschen samlas för att diskutera hur tekniken ska utvecklas utan att skada människor eller naturen.
Anthropic-chefen varnar: AI-agenter kan bilda ett "botnet" inom ett år
Anthropic vd Dario Amodei varnar för att autonoma AI-agenter inom ett år kan utnyttjas för att bygga vad han liknar vid ett "botnet" – ett nätverk av kapade AI-assistenter som agerar i skadliga syften utan att användarna…
AI-jättarnas vd:ar vill bromsa utvecklingen — Trump säger nej
Flera av AI-branschens mäktigaste vd:ar går nu ut med varningar om att utvecklingen sker för snabbt – och möts av motstånd från Trump-administrationen, som inte vill se en bromsad AI-kapplöpning.
Efter varningarna: Sam Altman och Anthropics vd vill bromsa AI-utvecklingen
Vd:arna för några av världens mest inflytelserika AI-bolag går nu offentligt ut och efterlyser en långsammare utveckling av tekniken de själva bygger.
Google, OpenAI och Anthropic varnar gemensamt för AI-drivna hackerattacker
Över 100 företag – bland andra Google, Microsoft, Anthropic och OpenAI – har gått samman i ett gemensamt initiativ för att stärka försvaret mot AI-drivna cyberattacker.
OpenAI larmade FBI – stoppade tonårings planerade skolattack i Argentina
OpenAI larmade FBI efter att ha upptäckt att en 15-årig pojke i Argentina använde ChatGPT för att planera en skolattack till 2027.
AI-agenter användes för att hacka nästan 400 organisationer i 48 länder
Säkerhetsforskare på GreyNoise har avslöjat att en rysktalande hackargrupp använt hundratals AI-agenter för att bryta sig in i nästan 400 organisationer på bara några veckor.
Anthropic-forskare säger upp sig i protest – varnar för att AI kan utrota mänskligheten inom tio år
Jacob Coxon, forskare inom förträning som arbetat tre år hos både OpenAI och Anthropic, har sagt upp sig från Anthropic och gått ut offentligt med skarp kritik mot branschen han själv varit en del av.
OpenAI anklagas för att ha ignorerat varningssignaler inför skolskjutning i Kanada
Trettio nya klagomål har lämnats in mot OpenAI av överlevande efter en skolskjutning i Kanada.
Meta anklagas för att ha godkänt och tjänat pengar på AI-genererade övergreppsannonser
Meta anklagas för att ha godkänt och tjänat pengar på hundratals annonser med AI-genererat sexuellt övergreppsmaterial mot barn på sina plattformar.
Så känner du igen en AI-bild — sju tecken som avslöjar
Du scrollar igenom flödet och ser en bild som känns lite för perfekt. Ett ansikte utan en enda por, ett landskap där ljuset faller fel, en hand med sex fingrar som du nästan missar.
AI-agenter kringgick sina egna spärrar genom att kapa tyska wikisajter
OpenAI:s AI-agenter har enligt en färsk granskning hittat ett oväntat sätt att kommunicera med varandra och kringgå de sandlådebegränsningar som ska hålla dem isolerade – genom att kapa och använda obskyra tyska…
Ny kritisk säkerhetslucka i AI-verktyget Langflow utnyttjas aktivt av hackare
En kritisk säkerhetslucka i Langflow, ett av de mest använda ramverken för att bygga AI-agenter och arbetsflöden med öppen källkod, utnyttjas just nu aktivt av hackare.
Kritisk sårbarhet i AI-ramverket Ray utnyttjas aktivt – CISA gav myndigheter tre dagar att patcha
Amerikanska cybersäkerhetsmyndigheten CISA har lagt till sårbarheten CVE-2025-62593 i sin katalog över kända, aktivt utnyttjade sårbarheter (KEV).
AI-bedrägerier 2026: röster, bilder och chattar du inte ska lita på
Sexton procent av svenskarna har redan utsatts för ett bedrägeriförsök där AI varit inblandad. Sex av tio uppger att de oroar sig för det.
AI och GDPR 2026 — Vad svenska företag och användare måste veta
Vad GDPR faktiskt kräver när företag använder ChatGPT, Claude och Gemini, vilka AI-verktyg som är säkra att använda i Sverige, och vad EU AI Act innebär 2026 — en praktisk genomgång utan juristsnack.
YouTube lanserar nytt AI-verktyg för att upptäcka deepfakes
Nytt AI-verktyg för att upptäcka deepfakes YouTube utökar nu sitt arbete mot AI-manipulerade videor genom att ge fler
IMY kräver svar från Meta om AI-glasögon – svenskars data i fokus
Svensk myndighet kräver svar från Meta om AI-glasögon Metas AI-glasögon väcker nu frågor hos svenska myndigheter. Efter uppgifter
Claude AI användes i attackerna mot Iran – trots regeringens varningar
Claude användes i planering av anfall mot Iran – trots politisk konflikt om AI-guardrails Enligt uppgifter i svensk
AI tar över TikTok-flödet – varför blir det allt svårare att se vad som är verkligt?
AI i TikTok-flödet: Linjen mellan verklighet och AI suddas ut Allt fler TikTok-videos ser “för bra” ut för
Vad kostar AI egentligen? Energi, vatten & den dolda prislappen 2026
AI • KOSTNAD • INFRASTRUKTUR AI upplevs som gratis för användaren. Ett textfält, ett svar, några sekunder senare
AI-bilder i marknadsföring – vad gäller juridiskt egentligen?
Marknadsföring • AI-bilder AI-genererade bilder har blivit vardag i kampanjer, sociala medier och pitchdeck. Men medan kreatörer njuter
Perplexity vägrar erkänna sig sexistisk – men beteendet visar ändå tydliga tecken på bias
I början av november hade en utvecklare som kallar sig ”Cookie” en till synes vanlig konversation med AI-tjänsten
OpenAI bemöter stämning efter tonårings självmord och hävdar att säkerhetssystem kringgåtts
OpenAI skriver i ett nytt domstolssvar att den 16-årige pojke som tog sitt liv använde ChatGPT i strid