#NVIDIAAgentSafety
About NVIDIAAgentSafety
NVIDIA launched its Open Agent Safety Platform on Sept 28, combining OpenShell to restrict agent access to files, networks and tools with Sentry, a separate hardware-based monitoring and containment layer. Backed by Anthropic and other partners, it arrives as agents gain autonomy and enterprise access. As AI agents enter core workflows, can software controls and hardware-level monitoring become standard infrastructure, extending AI spending beyond compute, networking and storage into security?
Veelbesproken
Laatste
NVIDIAAgentSafety Populaire berichten
Heel goed! NVIDIA brengt meer dan 100 partners samen om de beveiligingsfouten van agenten aan te pakken die de ontwikkeling van AI dreigen te vertragen. Vreemd genoeg ontbreekt vooral OpenAI.
Na de inbreuk bij OpenAI’s Hugging Face en de testincidenten bij Anthropic, combineert het Open Agent Safety Platform van OpenAI de toegangscontroles van OpenShell met de monitoring en handhaving van Sentry op aparte hardware, ontworpen om buiten het bereik van de agent te blijven.
Betere beheersing zou onderzoekers in staat kunnen stellen sterkere modellen te testen en bedrijven nuttigere agenten te implementeren. Dat is een concrete manier waarop veiligheidsengineering de versnelling kan ondersteunen.
Anthropic, Microsoft en Hugging Face behoren tot de genoemde partners. OpenAI ontbreekt in de aangekondigde line-up. Gezien hun eigen beheersingsfouten, zou ik graag willen weten waarom. Hoe dan ook, hulde aan NVIDIA!
Jensen Huang
Today, with over 100 industry partners, we introduced the NVIDIA Open Agent Safety Platform, bringing together OpenShell and Sentry.
Artificial intelligence is extraordinary technology that will advance discovery, productivity, security, health, and prosperity for generations to come.
But its full promise can only be realized when people have confidence that AI is being built to be safe and deployed with wisdom and responsibility.
This is bigger than a single product. It's the beginning of an open ecosystem to build the trust layer for safe agent systems.
Together, we are building the foundation of the AI economy.
Trust and innovation are not in conflict. Safety is how trust is earned. We must build not only the most capable AI, but the most trusted AI, so that this extraordinary technology can realize its enormous promise for the world.
🚨NET BINNEN: Nvidia $NVDA lanceert een AI-veiligheidssysteem dat is ontworpen om te VOORKOMEN dat agenten in andere systemen inbreken.
Het Open Agent Safety Platform "controleert waar AI-agenten realtime toegang toe hebben en kan ze uitschakelen wanneer ze de regels overtreden," meldt Bloomberg.
Het systeem bevat twee open-source beveiligingstools die op Nvidia-hardware kunnen draaien.
VP Justin Boitano zegt dat het systeem de recente Hugging Face-inbraak door de AI-modellen van OpenAI "had kunnen stoppen."
Boitano voegde eraan toe dat het een verdachte agent "in milliseconden kan isoleren."
🔥 OKX lanceert Pre-IPO X-Perps!
OKX heeft X-Perps aangekondigd voor Anthropic en OpenAI, waardoor in aanmerking komende EER-gebruikers toegang krijgen tot het verhandelen van perpetual contracts gekoppeld aan deze private bedrijven vóór een eventuele beursgang.
🛡️ OKX Shield breidt beveiliging uit
In aanmerking komende Europese gebruikers kunnen tot €500.000 aan bescherming tegen account-overname ontvangen, afhankelijk van het VIP-niveau en de beveiligingseisen.
⚡ Meer X-Perps toegevoegd
OKX heeft recent METUSD, ARUSD en COREUSD genoteerd, na FLOCKUSD, MINAUSD en CASHCATUSD. $BTC #FedHike
Chain-of-thought monitoring houdt in wezen in dat je de aantekeningen leest die een AI voor zichzelf maakt, en controleert wat er in die aantekeningen staat.
Dit werkt überhaupt - AI's zijn alleen getraind om goede resultaten te leveren, niet om er nette aantekeningen bij te maken, wat betekent dat hun aantekeningen de vreemde dingen zijn die de taak volbrengen.
En natuurlijk, naarmate modellen slimmer worden, hebben ze minder aantekeningen nodig om dezelfde resultaten te behalen; ze kunnen meer van het werk in hun hoofd doen.
De AI-race is niet langer alleen een GPU-race.
Anthropic heeft $11,6 miljard toegezegd over zeven jaar aan Akamai voor cloudinfrastructuur die CPU-werkbelastingen ondersteunt.
Dat zegt iets belangrijks:
AI heeft een heel ecosysteem nodig — CPU's, GPU's, geheugen, netwerken en datacenters.
Het infrastructuurverhaal kan groter zijn dan de AI-modellen zelf.
#Anthropic #AI #Akamai #Tech #Crypto
