Forscher der Google-Schwester DeepMind veröffentlichten kürzlich einen Artikel zur KI-Sicherheit. In dem Artikel stellen sie drei Grundprinzipien einer sichereren KI-Architektur vor: Spezifikation, Robustheit und Versicherung.

Kabetec VR-Brille

Nur entlang dieser drei Parameter könne sichergestellt werden, dass eine KI kein unerwünschtes Verhalten entwickelt, schreiben die Deepmind-Forscher. Das gewünschte Verhalten der KI müsse eindeutig spezifiziert werden und auch in ungewohnten Umgebungen robust funktionieren. Sollte etwas schieflaufen, müsse die KI im Notfall überschrieben oder ausgeschaltet werden können.

Ich stelle die drei Prinzipien kurz vor und erläutere sie.

| DeepMind Safety Principles

MIXED.de XR-Podcast - jetzt reinhören

Aktuell: Unreal Engine 5 - ein neues Grafikzeitalter? | Alle Folgen



Hinweis: Links auf Online-Shops in Artikeln können sogenannte Affiliate-Links sein. Wenn ihr über diesen Link einkauft, erhält MIXED.de vom Anbieter eine Provision. Für euch verändert sich der Preis nicht.