Volgens bronnen hebben adviseurs van Trump AI-bedrijven laten weten dat ze geen veiligheidstests zullen uitvoeren op modellen met open gewichten ↗
Volgens bronnen die bekend zijn met de gesprekken heeft de regering-Trump aan toonaangevende AI-bedrijven laten weten dat ze geen veiligheidstests zou uitvoeren op modellen met open gewichten. Daardoor valt een belangrijk deel van de risicobeoordeling buiten het overheidskader.
In de praktijk zullen ontwikkelaars en gebruikers mogelijk meer verantwoordelijkheid moeten nemen voor het evalueren van modellen vóór release of implementatie. Innovatievriendelijk, misschien... maar de timing is ongunstig, aangezien open modellen in een rap tempo steeds geavanceerder worden. (Reuters)
AI-modellen met open gewichten naderen de technologische vooruitgang. De veiligheidslacune blijft echter bestaan. ↗
Z.ai's GLM-5.2 loopt naar verluidt slechts enkele maanden achter op toonaangevende gesloten modellen op het gebied van cyber- en biologische mogelijkheden. Tests van SaferAI wezen uit dat het geen enkele offensieve cybertaak of taak voor biologisch gebruik met dubbele toepassing weigerde.
Gesloten modellen kunnen vertrouwen op weigeringstraining, classificatiesystemen en API-controles. Downloadbare gewichten zijn een heel ander verhaal: eenmaal vrijgegeven, kunnen beveiligingsmaatregelen worden aangepast of verwijderd, waardoor de veiligheidskloof enorm groot wordt. (TechCrunch)
Samsung Electronics introduceert de volgende generatie AI-geheugentechnologie ↗
Samsung heeft een BV-NAND-prototype onthuld met meer dan 400 lagen en een nieuw wafer-bonding-ontwerp. Het bedrijf zegt dat dit prototype een circa 58% hogere geheugendichtheid biedt dan de vorige generatie, samen met snellere lees-, schrijf- en invoer-uitvoerprestaties.
Samsung schetste ook verticaal gestapeld zHBM-geheugen dat boven AI-acceleratoren is geplaatst. Het bedrijf beweert dat de architectuur meer dan tien keer de dichtheid van conventioneel HBM5 kan bieden, een drievoudige energie-efficiëntie en een aanzienlijk lagere thermische weerstand – veelbelovende resultaten, om het zachtjes uit te drukken. (Reuters)
De wedloop om AI-datacenters zorgt voor een leaselast van 1 biljoen dollar voor grote techbedrijven ↗
Microsoft, Meta, Oracle, Amazon en Alphabet hebben zich voor ongeveer 1,09 biljoen dollar vastgelegd in leasecontracten die nog niet zijn ingegaan, voornamelijk voor AI-datacenters. Deze verplichtingen zijn bijna vier keer zo hoog als hun reeds erkende leaseverplichtingen.
De capaciteit zou de volgende cloudboom kunnen aanwakkeren. Of, minder rooskleurig, bedrijven kunnen opzadelen met enorme investeringen in faciliteiten als de vraag naar AI tegenvalt – een jas van een biljoen dollar die is gekocht voordat iemand het weerbericht had bekeken. (Reuters)
Anthropic sluit deal van $10 miljard met AI-cloudstartup Volta ↗
Anthropic zou naar verluidt een overeenkomst hebben gesloten om voor 10 miljard dollar aan computercapaciteit af te nemen van AI-cloudstartup Volta over een periode van zes jaar. De deal zou een Noors datacenter met een capaciteit van 133 megawatt ondersteunen.
Naar verwachting zal cryptominingbedrijf Bitdeer helpen bij de ontwikkeling van de faciliteit, die gebruik zal maken van Nvidia's Vera Rubin-systemen. Anthropic verzamelt samenwerkingsverbanden op het gebied van computerkracht alsof het koelkastmagneten zijn - alleen kosten deze magneten miljarden. (TechCrunch)
AI biedt een 'reddingslijn' voor opkomende economieën, aldus de Wereldbank ↗
Volgens de Wereldbank zou AI ontwikkelingslanden in staat kunnen stellen om een eeuw aan vooruitgang in een decennium te realiseren, mits ze de elektriciteitsvoorziening, connectiviteit en digitale vaardigheden verbeteren. Kleinere, lokaal aangepaste tools zouden de gezondheidszorg, het onderwijs, de landbouw en de openbare diensten kunnen ondersteunen zonder dat daarvoor gigantische nationale modellen nodig zijn.
Het rapport schat dat 4,5% van de banen in lage- en middeninkomenslanden blootgesteld is aan generatieve AI, vergeleken met 14,2% in rijkere economieën. Desondanks gaat de belofte gepaard met scherpe waarschuwingen over ongelijkheid, desinformatie en politieke repressie – een reddingslijn met de nodige haken en ogen. (Reuters)
Veelgestelde vragen
Waarom test de Amerikaanse overheid geen open-weight AI-modellen op veiligheid?
Volgens het artikel heeft de regering-Trump toonaangevende AI-bedrijven laten weten dat open-weight modellen niet zouden worden opgenomen in het door de overheid vastgestelde veiligheidstestkader. Dit legt meer verantwoordelijkheid bij ontwikkelaars, distributeurs en gebruikers van modellen, die mogelijk zelfstandig de risico's op het gebied van cyberdreigingen, biologische dreigingen, misbruik en implementatie moeten beoordelen voordat ze deze systemen vrijgeven of in gebruik nemen.
Waarom zijn open AI-modellen moeilijker te beveiligen dan gesloten modellen?
Open AI-modellen kunnen worden gedownload, aangepast en gebruikt buiten de infrastructuur van de oorspronkelijke ontwikkelaar. Hierdoor kunnen beveiligingsmaatregelen zoals weigeringstraining, classificatiesystemen en toegangscontroles worden verzwakt of verwijderd. Gesloten modellen worden doorgaans geleverd via gecontroleerde API's, waardoor aanbieders meer mogelijkheden hebben om het gebruik te monitoren, de toegang te beperken en de beveiliging na implementatie bij te werken.
Hoe moeten organisaties open-weight AI-modellen evalueren vóór de implementatie?
Een veelgebruikte aanpak is om het model te testen aan de hand van realistische misbruikscenario's, waaronder offensieve cyberaanvallen, verzoeken om biologisch materiaal voor tweeërlei gebruik en pogingen om beveiligingsmaatregelen te omzeilen. Organisaties moeten ook onderzoeken hoe het model gehost zal worden, wie het mag aanpassen en welke monitoringsystemen beschikbaar zijn. Implementaties met een hoger risico vereisen doorgaans strengere toegangscontroles en continu menselijk toezicht.
Wat is de bedoeling van Samsungs nieuwe AI-geheugentechnologie?
Het BV-NAND-prototype van Samsung maakt gebruik van meer dan 400 lagen en een wafer-bonding-ontwerp dat bedoeld is om de geheugendichtheid te verhogen en tegelijkertijd de lees-, schrijf- en input-outputprestaties te verbeteren. Het bedrijf beschreef ook verticaal gestapeld zHBM-geheugen dat boven AI-acceleratoren is geplaatst. Deze ontwerpen zijn bedoeld om te voldoen aan de capaciteits-, energie- en warmtebehoeften die ontstaan door steeds intensievere AI-workloads.
Waarom worden de leasecontracten voor AI-datacenters van grote technologiebedrijven als een financieel risico beschouwd?
Microsoft, Meta, Oracle, Amazon en Alphabet hebben naar verluidt zo'n 1,09 biljoen dollar toegezegd voor leasecontracten die nog niet eens zijn ingegaan, waarvan een groot deel bestemd is voor AI-datacenters. De extra capaciteit zou de snelle groei van de vraag naar cloud- en AI-oplossingen kunnen ondersteunen. De bedrijven zouden echter nog steeds aanzienlijke betalingen moeten doen als de vraag zich trager ontwikkelt dan verwacht of als de infrastructuur onderbenut blijft.
Hoe kan AI opkomende economieën ten goede komen?
De Wereldbank stelt dat AI ontwikkelingslanden kan helpen bij het versterken van de gezondheidszorg, het onderwijs, de landbouw en de openbare diensten, met name door middel van kleinere instrumenten die zijn aangepast aan lokale behoeften. Deze voordelen zijn afhankelijk van betrouwbare elektriciteitsvoorziening, internettoegang en digitale vaardigheden. Overheden moeten ook de risico's beheersen, zoals ongelijkheid, desinformatie en politieke repressie, naarmate de toepassing van AI toeneemt.