#NVIDIAAgentSafety
About NVIDIAAgentSafety
NVIDIA launched its Open Agent Safety Platform on Sept 28, combining OpenShell to restrict agent access to files, networks and tools with Sentry, a separate hardware-based monitoring and containment layer. Backed by Anthropic and other partners, it arrives as agents gain autonomy and enterprise access. As AI agents enter core workflows, can software controls and hardware-level monitoring become standard infrastructure, extending AI spending beyond compute, networking and storage into security?
Populär
Senaste
NVIDIAAgentSafety Populära inlägg
Mycket bra! NVIDIA samlar över 100 partners för att ta itu med agenternas säkerhetsbrister som hotar att bromsa AI-utvecklingen. Dock saknas märkligt nog särskilt OpenAI.
Efter OpenAIs Hugging Face-överträdelse och Anthropics testincidenter kombinerar deras Open Agent Safety Platform OpenShells åtkomstkontroller med Sentrys övervakning och verkställande på separat hårdvara, utformad för att ligga utom agentens räckvidd.
Bättre inneslutning kan låta forskare testa starkare modeller och företag distribuera mer användbara agenter. Det är ett konkret sätt för säkerhetsingenjörskonst att stödja acceleration.
Anthropic, Microsoft och Hugging Face är bland de namngivna partnerna. OpenAI saknas i den tillkännagivna uppställningen. Med tanke på deras egna inneslutningsmisslyckanden skulle jag vilja veta varför. Hur som helst, Kudos NVIDIA!
Jensen Huang
Today, with over 100 industry partners, we introduced the NVIDIA Open Agent Safety Platform, bringing together OpenShell and Sentry.
Artificial intelligence is extraordinary technology that will advance discovery, productivity, security, health, and prosperity for generations to come.
But its full promise can only be realized when people have confidence that AI is being built to be safe and deployed with wisdom and responsibility.
This is bigger than a single product. It's the beginning of an open ecosystem to build the trust layer for safe agent systems.
Together, we are building the foundation of the AI economy.
Trust and innovation are not in conflict. Safety is how trust is earned. We must build not only the most capable AI, but the most trusted AI, so that this extraordinary technology can realize its enormous promise for the world.
🚨JUST IN: Nvidia $NVDA lanserar ett AI-säkerhetssystem utformat för att STOPPA agenter från att bryta sig in i andra system.
Open Agent Safety Platform "kontrollerar vad AI-agenter kan komma åt i realtid och kan stänga ner dem när de bryter mot reglerna," rapporterar Bloomberg
Systemet inkluderar två öppen källkods-säkerhetsverktyg som kan köras på Nvidia-hårdvara.
VP Justin Boitano säger att systemet "kunde ha stoppat" det senaste intrånget på Hugging Face av OpenAIs AI-modeller.
Boitano tillade att det kan "karantänsätta en misstänkt agent på millisekunder."
🔥 OKX lanserar förhandsbörsintroduktionen X-Perps!
OKX har tillkännagivit X-Perps för Anthropic och OpenAI, vilket ger berättigade EES-användare tillgång till affärskontrakt kopplade till dessa privata företag innan någon offentlig notering.
🛡️ OKX Shield ökar säkerheten
Behöriga europeiska användare kan få upp till 500 000 euro i kontoövertagningsskydd, beroende på VIP-nivå och säkerhetskrav.
⚡ Fler X-Perps tillkomna
OKX listade nyligen METUSD, ARUSD och COREUSD, efter FLOCKUSD, MINAUSD och CASHCATUSD. $BTC #FedHike
Chain-of-thought-övervakning innebär i grunden att läsa de anteckningar som en AI skriver till sig själv och kontrollera vad som finns i dessa anteckningar.
Detta fungerar alls – AI:er tränas bara för att få bra resultat, inte för att ha snygga anteckningar, vilket betyder att deras anteckningar är vilka konstiga saker som helst som uppnår uppgiften.
Och, förstås, när modeller blir smartare behöver de färre anteckningar för att få samma resultat; de kan göra mer av arbetet i sitt huvud.
AI-kapplöpningen är inte längre bara en GPU-kapplöpning.
Anthropic har under sju år avsatt 11,6 miljarder dollar till Akamai för molninfrastruktur som stödjer CPU-arbetsbelastningar.
Det säger dig något viktigt:
AI behöver ett helt ekosystem – CPU:er, GPU:er, minne, nätverk och datacenter.
Infrastrukturhistorien kan vara större än själva AI-modellerna.
#Anthropic #AI #Akamai #Tech #Crypto
