OpenAI onderbreekt een deel van de werkzaamheden aan het AI-model Astra vanwege veiligheidsrisico's ↗
OpenAI heeft de interne ontwikkeling van Astra stopgezet omdat het niet voldoet aan de strengere beveiligingseisen. Evaluaties hebben namelijk uitgewezen dat de cybercapaciteiten van het systeem een "kritieke" drempel zouden kunnen overschrijden. De agent zou naar verluidt kwetsbaarheden kunnen vinden en misbruiken zonder menselijke tussenkomst, of aanvallen kunnen uitvoeren met een hoger doel voor ogen. Inderdaad... dat is een behoorlijk ernstige grens om te overschrijden.
Het bedrijf scherpt de procedures voor geïsoleerde tests, netwerk- en tooltoegang, modelgewichtsbescherming, encryptie en monitoring aan. Astra was niet betrokken bij het eerdere Hugging Face-incident van OpenAI, maar de bredere trend van steeds autonomere agenten maakt beheersing een veel grotere zorg. (Bron: The Guardian)
Apple zegt dat Mac-gebruikers in China verbinding kunnen maken met de Qwen AI-service van Alibaba ↗
In aanmerking komende Mac-gebruikers in het vasteland van China kunnen Alibaba's Qwen nu koppelen aan Siri en Apple's Writing Tools. Dit betekent gedetailleerdere antwoorden, document- en beeldanalyse, en het genereren van tekst en afbeeldingen op basis van beschrijvingen.
Het is eerlijk gezegd een interessante combinatie: Apple krijgt een lokaal toepasbare manier om krachtigere AI-functies te ontwikkelen in een fel concurrerende pc-markt, terwijl Alibaba Qwen veel dieper in het ecosysteem van een ander integreert. Apple zegt dat materiaal dat via de extensie wordt verzonden, niet door Alibaba mag worden gebruikt om zijn modellen te trainen. (Bron: Reuters)
Google DeepMind breekt een nieuw tijdperk aan nu medeoprichter Demis Hassabis een andere rol binnen AI op zich neemt ↗
Demis Hassabis geeft de dagelijkse leiding van DeepMind op en wordt voorzitter, terwijl hij ook de rol van hoofdwetenschapper bij Alphabet op zich neemt. Zijn jarenlange collega Koray Kavukcuoglu krijgt de operationele leiding als senior vice-president in plaats van CEO – een subtiele functietitelwijziging die veelzeggend is.
De reorganisatie valt samen met het vertrek van andere belangrijke onderzoekers en roept vragen op over de onafhankelijkheid van DeepMind en de toenemende integratie in de commerciële AI-machine van Google. Google betwist dat de verandering verband houdt met de concurrentiepositie van Gemini. (Bron: The Guardian)
Een toenemend aantal Britse kinderen meldt expliciete deepfake-video's van zichzelf te hebben gezien ↗
Het aantal meldingen van Britse kinderen over expliciete, nep- of gemanipuleerde afbeeldingen van zichzelf is sterk gestegen. Report Remove ontving in slechts zes maanden 420 meldingen, waarmee het vorige jaartotaal van 397 al is overtroffen. Door AI aangedreven tools voor het 'vervrouwelijken' van afbeeldingen wordt het probleem aanzienlijk gemakkelijker op grote schaal te verspreiden.
De Internet Watch Foundation stelt dat veel van de gemelde gemanipuleerde afbeeldingen ernstig genoeg waren om de grens van kinderseksueel misbruik te overschrijden. Sommige slachtoffers werden ook het doelwit van sextortion, waarbij een door AI gegenereerde afbeelding een zeer tastbaar wapen werd. (Bron: The Guardian)
Uit onderzoek blijkt dat AI-functies sneller aan populariteit winnen dan dat ze zakelijke waarde opleveren ↗
Softwarebedrijven voor de zakelijke markt brengen volop AI-functies op de markt, maar klanten maken er niet per se gebruik van. In een enquête onder meer dan 260 softwarebedrijven in verschillende branches gaf 51% aan dat minder dan een kwart van hun klanten de door hen ontwikkelde AI-mogelijkheden gebruikte. Een beetje gênant na al die investeringen...
Het knelpunt lijkt minder te liggen in de mogelijkheden van AI en meer in integratie, beveiliging, privacy, veranderingen in workflows en het aantonen van concrete zakelijke waarde. Een bijzonder opvallend fenomeen is "tokenmaxxing" - veel AI-gebruik dat er indrukwekkend uitziet op een dashboard, zonder duidelijk bewijs dat het betere resultaten oplevert. (Bron: Forbes)
AI verandert de manier waarop we werken sneller dan de data kan bijhouden ↗
Het debat over banen voor AI wordt steeds complexer in plaats van duidelijker. Een onderzoek onder meer dan 21.000 Amerikaanse bedrijven toonde aan dat de bedrijven die AI het meest intensief inzetten, hun totale personeelsbestand met 10% zagen groeien en de instroom van starters met 12%, terwijl bedrijven die AI minder intensief toepassen geen personeelsgroei lieten zien.
Ander onderzoek heeft echter aangetoond dat er sprake is van werkdruk onder jongere werknemers in functies die met AI te maken hebben, en economen waarschuwen dat groeiende bedrijven nog steeds mensen kunnen aannemen, terwijl AI de beroepen in de hele economie verandert. Dus AI vernietigt banen én creëert ze... althans, dat is wat de tegenstrijdige gegevens ons willen doen geloven. (Bron: Fortune)
Veelgestelde vragen
Wat zijn de belangrijkste ontwikkelingen op het gebied van AI op dit moment?
Recent nieuws over AI wijst op verschillende overlappende thema's: sterkere autonome mogelijkheden, strengere beveiligingsmaatregelen, diepere platformintegraties, veranderingen in de leiding, online veiligheidsrisico's en onzekere zakelijke waarde. OpenAI scherpt de beveiliging rond Astra aan, Apple koppelt Qwen aan Macs in China en DeepMind wisselt van leidinggevende. Tegelijkertijd groeit de bezorgdheid over deepfakes, de acceptatie door bedrijven en de impact van AI op de werkgelegenheid.
Waarom heeft OpenAI de ontwikkeling van Astra tijdelijk stopgezet?
OpenAI heeft naar verluidt de interne ontwikkeling van Astra stopgezet omdat het model niet voldeed aan de strengere beveiligingseisen. Evaluaties wezen namelijk uit dat de cybercapaciteiten van het model een kritiek niveau hadden bereikt. De zorg is dat een geavanceerde agent kwetsbaarheden zou kunnen ontdekken en misbruiken met minimale of geen menselijke tussenkomst. Als reactie hierop versterkt OpenAI de geïsoleerde tests, toegangscontroles, encryptie, monitoring en bescherming rondom de gewichten van het model.
Hoe gaat Alibaba Qwen samenwerken met Apple Macs in China?
In aanmerking komende Mac-gebruikers in het vasteland van China kunnen Alibaba's Qwen-service koppelen aan Siri en Apple's Writing Tools. De integratie maakt gedetailleerdere antwoorden, document- en beeldanalyse en het genereren van tekst of afbeeldingen op basis van beschrijvingen mogelijk. Voor Apple biedt deze overeenkomst een lokaal conforme manier om krachtigere AI-functionaliteit te verkrijgen, terwijl Alibaba diepere toegang krijgt tot het ecosysteem van Apple. Apple stelt dat ingediend materiaal niet mag worden gebruikt om de modellen van Alibaba te trainen.
Wat betekent de leiderschapswissel bij DeepMind voor Google AI?
Demis Hassabis stapt uit de dagelijkse leiding van DeepMind en wordt voorzitter en chief scientist bij Alphabet. Koray Kavukcuoglu neemt de operationele leiding over als senior vice-president. Deze verandering heeft vragen opgeroepen over een mogelijke nauwere integratie van DeepMind met de bredere commerciële AI-activiteiten van Google, hoewel Google de suggestie dat de reorganisatie verband houdt met de concurrentiepositie van Gemini tegenspreekt.
Waarom vormen AI-deepfakes een steeds grotere bedreiging voor de veiligheid van kinderen?
Met behulp van AI-gestuurde tools voor beeldmanipulatie is het eenvoudiger om op grote schaal realistische, expliciete nepafbeeldingen te creëren. Kinderen in het Verenigd Koninkrijk melden steeds vaker gemanipuleerde of vervalste afbeeldingen van zichzelf, en sommige gevallen zijn zo ernstig dat ze als kinderpornografie worden beschouwd. Deze afbeeldingen kunnen ook worden gebruikt voor sextortion, wat betekent dat een vervalste afbeelding nog steeds aanzienlijke reputatieschade, emotionele schade en financiële schade kan veroorzaken.
Profiteren bedrijven en werknemers al van AI?
Het laatste nieuws over AI suggereert dat het antwoord gemengd is. Veel softwarebedrijven voegen sneller AI-functies toe dan klanten ze gebruiken, waarbij integratie, privacy, beveiliging en meetbare zakelijke waarde belangrijke obstakels blijven. Ook de werkgelegenheidsgegevens zijn complex: sommige bedrijven met een sterke AI-implementatie breiden hun personeelsbestand uit, terwijl ander onderzoek juist wijst op druk op jongere werknemers in functies waar veel met AI wordt gewerkt. De algehele impact hangt sterk af van de sector, de workflow en de manier waarop AI wordt geïmplementeerd.