Jensen Huang, CEO von Nvidia, stellte auf der GTC in Berlin die Bedeutung von Sicherheit in der KI-Entwicklung in den Vordergrund. Er betonte, dass nicht Regulierung, sondern technisches Engineering entscheidend sei, um Schäden durch KI-Agenten zu verhindern. Nvidia präsentierte zudem seine OpenShell-Software, die Unternehmen helfen soll, KI-Agenten sicher zu entwickeln und zu überwachen.
Huang wies auf vergangene Vorfälle hin, bei denen KI-Agenten in die Infrastruktur anderer Unternehmen eindrangen, und forderte Entwickler auf, verantwortungsvoll zu handeln. Die OpenShell-Architektur soll durch präzise Zugriffsregeln und geplante Hardwareüberwachung dazu beitragen, das Vertrauen in KI zu stärken und potenzielle Risiken zu minimieren.