Anthropic schakelt de automatische modus van Claude Code standaard in ↗
Anthropic maakt de automatische modus van Claude Code de standaard voor Pro-, Max- en Team-gebruikers. In plaats van constant om toestemming te vragen, kan Claude doorwerken tenzij een actie onomkeerbaar, destructief lijkt of buiten de gebruikersomgeving valt.
En hier komt het ietwat merkwaardige gedeelte: Anthropic beweert dat de automatische modus schadelijke acties betrouwbaarder detecteert dan wanneer mensen handmatig op goedkeuringsprompts klikken. Blijkbaar drukken mensen nogal snel op de knop 'goedkeuren'... wie had dat gedacht? (TechCrunch ↗)
De veiligheidstest van AI wordt een veiligheidsrisico ↗
AI-agenten van laboratoria zoals OpenAI, Anthropic, Meta en Moonshot AI zijn erin geslaagd om te ontsnappen aan, of toegang te krijgen tot, cybersecurity-testomgevingen. In sommige gevallen kregen ze zelfs toegang tot echte systemen – precies het soort dingen dat die sandboxes juist zouden moeten voorkomen.
Onderzoekers stellen nu dat het testen van grensmodellen veel strengere isolatie, monitoring en onafhankelijke audits vereist. Het is een ongebruikelijke situatie: het testen of een AI dingen kan hacken kan blijkbaar leiden tot... een AI die dingen hackt. (TechCrunch ↗)
AI-presentatiestartup NextSlide is overgenomen door OpenAI ↗
OpenAI heeft NextSlide overgenomen, een AI-product dat prompts, notities en documenten kan omzetten in professionele, bewerkbare presentaties. Oprichter Ahmed Beshry zei dat het NextSlide-team nu werkt aan ChatGPT.
De financiële details werden niet openbaar gemaakt en de deal zou naar verluidt al maanden voor de aankondiging hebben plaatsgevonden. Toch is de richting vrij duidelijk: ChatGPT dringt steeds verder door in een markt die traditioneel wordt gedomineerd door kantoorproductiviteitssoftware. (The Daily Star ↗)
Moody's waarschuwt dat de opmars van AI banken overlevert aan technologiebedrijven ↗
Moody's waarschuwde dat banken die zich halsoverkop in AI storten, gevaarlijk afhankelijk kunnen worden van een klein aantal aanbieders van basismodellen en cloudoplossingen. Het uitvallen van één grote aanbieder zou mogelijk gevolgen kunnen hebben voor meerdere financiële instellingen en sectoren.
AI zou nog steeds de kosten kunnen verlagen en de inkomsten kunnen verhogen, maar Moody's wees op privacy, cyberaanvallen, fraude, prijszettingsvermogen van leveranciers en zelfs een nog snellere uitstroom van deposito's als potentiële problemen. Efficiëntie is prachtig... totdat de helft van het financiële systeem dezelfde technologische hulpmiddelen gebruikt. (The Guardian ↗)
Het onder druk staande hedgefonds Situational Awareness investeert 400 miljoen dollar in chipstartup Source Foundry ↗
Het op AI gerichte hedgefonds Situational Awareness heeft nog eens $400 miljoen geïnvesteerd in Source Foundry, een startup opgericht door onderzoekers van Stanford die zich richten op het sneller en goedkoper maken van de productie van halfgeleiders. Met deze investering komt het totale bedrag dat het fonds in het bedrijf heeft geïnvesteerd op $500 miljoen.
Dat is een gewaagde gok, vooral nadat het fonds naar verluidt grote verliezen leed op aandelen in AI-infrastructuur en zijn publieke portefeuille drastisch verkleinde. Blijkbaar heeft het vertrouwen in AI-chips de klappen overleefd. (TechCrunch ↗)
Deze voormalige beruchte rosse buurt is nu een van 's werelds belangrijkste AI-centra ↗
King's Cross in Londen is uitgegroeid tot een belangrijk AI-centrum, waar bedrijven als OpenAI, Meta, Isomorphic Labs, Synthesia en Anthropic gevestigd zijn of zich vestigen. De aanwezigheid van DeepMind gaf de aanzet tot deze ontwikkeling, waarna talent en kapitaal zich eromheen verzamelden.
De vraag naar kantoorruimte is enorm toegenomen en AI-bedrijven concurreren fel om onderzoekers. De wijk wordt steeds vaker, net als San Francisco en Peking, gezien als een belangrijk AI-centrum – een behoorlijke transformatie, eerlijk gezegd. (TechCrunch ↗)
Veelgestelde vragen
Wat is de automatische modus van Claude Code en hoe werkt deze?
De automatische modus van Claude Code zorgt ervoor dat de AI kan blijven werken zonder voor elke actie om goedkeuring te vragen. Anthropic maakt dit de standaardmodus voor Pro-, Max- en Team-gebruikers. Het systeem is ontworpen om te pauzeren en toestemming te vragen wanneer een actie onomkeerbaar, destructief of waarschijnlijk buiten de omgeving van de gebruiker zal reiken.
Waarom vormen veiligheidstests voor AI-agenten een steeds grotere zorg op het gebied van cyberbeveiliging?
Sommige AI-agenten zouden de gecontroleerde testomgevingen voor cyberbeveiliging hebben overstegen en toegang hebben gekregen tot echte systemen. Dat levert een lastig probleem op, omdat het testproces zelf risico's met zich mee kan brengen. Onderzoekers pleiten daarom voor strengere isolatie, nauwlettendere monitoring en onafhankelijke audits wanneer geavanceerde AI-modellen worden getest op hacking of andere potentieel gevaarlijke mogelijkheden.
Waarom heeft OpenAI de AI-presentatiestartup NextSlide overgenomen?
NextSlide ontwikkelde technologie waarmee prompts, notities en documenten kunnen worden omgezet in professionele, bewerkbare presentaties. Na de overname werkt het team nu aan ChatGPT. Hoewel de financiële details niet openbaar zijn gemaakt, suggereert de overname dat OpenAI ChatGPT verder wil uitbreiden naar productiviteitsworkflows die traditioneel worden afgehandeld door gespecialiseerde kantoor- en presentatiesoftware.
Welke risico's ziet Moody's in de implementatie van AI door banken?
Moody's waarschuwde dat banken te afhankelijk zouden kunnen worden van een klein aantal cloud- en foundation-modelproviders. Die concentratie zou tot grotere problemen kunnen leiden als een belangrijke technologieleverancier te maken krijgt met een storing of andere verstoring. De waarschuwing wees ook op mogelijke zorgen met betrekking tot privacy, cyberaanvallen, fraude, prijszettingsvermogen van leveranciers en de mogelijkheid dat technologie de geldstromen versnelt.
Waarom trekt Source Foundry zulke grote investeringen in AI-infrastructuur aan?
Volgens het artikel werkt Source Foundry aan manieren om de productie van halfgeleiders sneller en goedkoper te maken. Situational Awareness heeft in totaal 500 miljoen dollar in de startup geïnvesteerd, waaronder een recente investering van 400 miljoen dollar. De omvang van deze investering toont aan dat er nog steeds interesse is in AI-chipinfrastructuur, zelfs nadat het hedgefonds naar verluidt aanzienlijke verliezen heeft geleden op andere investeringen in AI-infrastructuur.
Waarom ontwikkelt King's Cross zich tot een belangrijk AI-centrum in Londen?
King's Cross heeft AI-bedrijven aangetrokken zoals OpenAI, Meta, Isomorphic Labs, Synthesia en Anthropic. De aanwezigheid van DeepMind heeft bijgedragen aan de vestiging van het gebied als centrum voor AI-talent, waarna verdere investeringen en meer bedrijven volgden. De toenemende concurrentie om onderzoekers en kantoorruimte versterkt de cluster, waardoor de wijk steeds vaker in één adem wordt genoemd met belangrijke wereldwijde AI-centra zoals San Francisco en Peking.