Google vecht Duitse uitspraak aan die stelt dat het bedrijf aansprakelijk is voor door AI gegenereerde valse claims ↗
Google is van plan in beroep te gaan tegen een uitspraak van een rechtbank in München, die AI Overviews als eigen gepubliceerde content beschouwt. Dit betekent dat Google juridisch verantwoordelijk is wanneer deze samenvattingen onjuiste beweringen bevatten.
De zaak werd aangespannen door twee Duitse uitgevers die ten onrechte in verband waren gebracht met oplichting en dubieuze zakelijke praktijken. Google omschrijft de fouten als beperkt, maar de uitspraak zou een verrassend zwaar juridisch arsenaal kunnen opleggen aan elke AI-antwoordmachine. (Reuters)
Tech-topmannen wonen G7-top bij waar leiders zich buigen over AI en online veiligheid ↗
Naar verwachting zullen leiders van OpenAI, Anthropic, Google DeepMind, Mistral AI, Cohere en Meta zich bij de G7-functionarissen voegen voor discussies over AI-regulering, infrastructuur en online veiligheid.
Ook online bescherming voor kinderen staat ter sprake. De AI-industrie neemt dus inderdaad plaats aan de zijde van wereldleiders, maar of dat daadwerkelijk tot verantwoording leidt of slechts tot een bijzonder luxe lunch, blijft onduidelijk. (Reuters)
Anthropic zegt dat het Claude Fable 5 offline haalt om te voldoen aan een bevel van de Amerikaanse overheid ↗
Anthropic heeft Claude Fable 5 en Mythos 5 buiten gebruik gesteld na ontvangst van een Amerikaanse exportcontrolemaatregel die bedoeld was om de toegang voor buitenlandse staatsburgers, waaronder Anthropic-medewerkers, te blokkeren.
Het bedrijf trok de toegang voor iedereen in en betwistte de redenering van de overheid. Ambtenaren zouden bezorgdheid hebben geuit over een mogelijke jailbreak, maar Anthropic stelt dat de aangetoonde omzeiling beperkt was en slechts relatief kleine, reeds bekende kwetsbaarheden aan het licht bracht... op zijn zachtst gezegd gênant. (WIRED)
Meta's nieuwe AI-afdeling verkeert naar verluidt in grote problemen ↗
De afdeling Toegepaste AI van Meta kampt met wijdverspreide interne frustratie, zo blijkt uit berichten van medewerkers en bedrijfsdiscussies die door WIRED zijn ingezien. De groep, die ongeveer 6.500 mensen telt, werd opgericht om de onderzoekers van Meta op het gebied van superintelligentie te ondersteunen.
Medewerkers gaven aan dat ze zich gedwongen voelden om zich bezig te houden met repetitief werk aan modelverbetering, te midden van onduidelijk leiderschap en wisselende prioriteiten. De spanningen liepen hoog op toen een medewerker een grote interne presentatie onderbrak met een scheldtirade – subtiel was het zeker niet. (WIRED)
Chinese cybercriminele organisatie die AI gebruikte om 'honderdduizenden slachtoffers' op te lichten, wordt aangeklaagd door Google ↗
Google klaagt Outsider Enterprise aan, een vermeend cybercrimineel netwerk dat ervan wordt beschuldigd AI-gestuurde tools te gebruiken om overtuigende phishingwebsites te creëren en frauduleuze sms-berichten te versturen waarin grote merken worden nagebootst.
Google zegt dat de operatie duizenden nepwebsites, ongeveer een miljoen frauduleuze domeinen en miljoenen berichten heeft ingezet. De software zou mensen met beperkte technische vaardigheden in staat hebben gesteld om binnen enkele minuten een phishing-infrastructuur op te zetten – cybercriminaliteit met de kinderschoenen stevig vastgeklemd. (TechCrunch)
Veelgestelde vragen
Waarom gaat Google in beroep tegen de Duitse uitspraak over AI-overzichten?
Google is van plan een uitspraak van een rechtbank in München aan te vechten, waarin AI-overzichten worden beschouwd als content die door Google zelf is gepubliceerd. De uitspraak volgde op valse samenvattingen die twee Duitse uitgevers in verband brachten met oplichting en dubieuze zakelijke praktijken. Indien de uitspraak standhoudt, zouden aanbieders van AI-antwoorden wettelijk aansprakelijk kunnen worden gesteld voor onjuiste beweringen in hun zoekresultaten.
Wat zou de Duitse uitspraak kunnen betekenen voor de aansprakelijkheid van AI?
De uitspraak kan een bredere norm voor aansprakelijkheid ten aanzien van AI vaststellen door een platform verantwoordelijk te houden voor verklaringen die via de eigen AI-functies worden gegenereerd. Rechtbanken in veel rechtsgebieden moeten nog bepalen of gegenereerde samenvattingen moeten worden beschouwd als gehoste content van derden of als directe publicatie. Het hoger beroep zou daarom van invloed kunnen zijn op de manier waarop vergelijkbare geschillen elders worden behandeld.
Waarom wonen topmanagers uit de technologiesector de G7-top bij?
Naar verwachting zullen leidinggevenden van OpenAI, Anthropic, Google DeepMind, Mistral AI, Cohere en Meta deelnemen aan gesprekken met de G7-leiders. De agenda omvat AI-regulering, infrastructuur, online veiligheid en bescherming van kinderen. Hun aanwezigheid biedt regeringen de kans om grote AI-ontwikkelaars rechtstreeks te ondervragen over risico's, verantwoordelijkheden en toekomstig beleid.
Waarom heeft Anthropic Claude Fable 5 en Mythos 5 offline gehaald?
Anthropic schakelde beide modellen uit na een exportcontrolebevel van de VS, bedoeld om toegang door bepaalde buitenlandse staatsburgers, waaronder enkele werknemers, te voorkomen. Het bedrijf verwijderde de toegang voor iedereen en betwistte de redenering van de overheid. Ambtenaren zouden bezorgdheid hebben geuit over een mogelijke ontsnapping uit de beveiliging, hoewel Anthropic de aangetoonde omzeiling omschreef als beperkt en gebaseerd op relatief kleine, reeds bekende kwetsbaarheden.
Wat is de oorzaak van de gemelde onrust binnen Meta's AI-afdeling?
Medewerkers beschrijven naar verluidt onduidelijk leiderschap, wisselende prioriteiten en repetitief werk aan modelverbetering binnen Meta's Applied AI-afdeling. Deze groep werd opgericht om de onderzoekers naar superintelligentie van het bedrijf te ondersteunen en telt ongeveer 6.500 mensen. De frustratie werd met name zichtbaar toen een medewerker een grote interne presentatie onderbrak met een boze, met scheldwoorden doorspekte klacht.
Hoe zetten criminelen AI in voor phishing-fraude?
Volgens de rechtszaak van Google gebruikte het vermeende Outsider Enterprise-netwerk AI-gestuurde software om overtuigende phishingwebsites en frauduleuze berichten te creëren die zich voordeden als grote merken. De tools zouden gebruikers met beperkte technische ervaring hebben geholpen om snel een phishinginfrastructuur op te zetten. Google stelt dat de operatie duizenden nepwebsites, ongeveer een miljoen frauduleuze domeinen en miljoenen berichten omvatte.