Um Den Tod Zu Vermeiden, Muss Die Menschheit Künstliche Intelligenz Einsperren

Inhaltsverzeichnis:

Video: Um Den Tod Zu Vermeiden, Muss Die Menschheit Künstliche Intelligenz Einsperren
Video: Künstliche Intelligenz rottet Menschheit aus - so nah ist dieses Horrorszenario 2023, Februar
Um Den Tod Zu Vermeiden, Muss Die Menschheit Künstliche Intelligenz Einsperren
Um Den Tod Zu Vermeiden, Muss Die Menschheit Künstliche Intelligenz Einsperren
Anonim

Superintelligente Computer oder Roboter, die die Existenz der Menschheit bedrohen, sind eine beliebte Handlung der Science-Fiction. In Wirklichkeit, so Wissenschaftler, kann ein solches Weltuntergangsszenario nur durch die Schaffung eines virtuellen „Gefängnisses“zur Eindämmung künstlicher Intelligenz (KI) verhindert werden. Und dies muss geschehen, bevor er lernt, sich seiner selbst bewusst zu sein und sich zu verbessern..

Bild
Bild

Wenn man diesen Geist aus der Flasche lässt, dann kann aus einem Orakel, das unsere Probleme löst, eine apokalyptische Bedrohung werden, sagt Roman Yampolsky, Wissenschaftler an der University of Louisville, Kentucky, der auf dem Gebiet der Informatik arbeitet. Die Bedingungen, unter denen die KI enthalten sein wird, müssen sorgfältig geplant werden, damit sie sich nicht durch Bedrohungen, Bestechung, Versuchung oder Computerhacken befreien kann.

„Er kann viele Möglichkeiten der Beeinflussung erfinden, eine komplexe Sozio-Engineering-Kombination ankurbeln und vorhandene Hardwarekomponenten für Zwecke nutzen, die wir uns nicht einmal vorstellen können“, glaubt Yampolsky. - Solche Software hat unbegrenzte Möglichkeiten, Computer und Netzwerke zu infizieren. KI kann Wege finden, die menschliche Psyche zu beeinflussen, Menschen zu bestechen oder zu erpressen, die damit in Kontakt stehen."

Das Aufkommen eines neuen wissenschaftlichen Forschungsgebiets, das sich mit dem Problem der Schaffung eines „Gefängnisses“für künstliche Intelligenz beschäftigt, hat weitere Vorteile. Diese Studien sind sehr nützlich, um die Computersicherheit und Kryptographie zu verbessern, ist sich Yampolsky sicher. Seine Vorschläge wurden in der März-Ausgabe der Fachzeitschrift Consciousness Studies detailliert beschrieben.

So richten Sie eine Falle für Skynet ein

Für den Anfang können Sie künstliche Intelligenz in eine "virtuelle Maschine" einschließen. Lassen Sie es innerhalb eines normalen Betriebssystems laufen - die Einschränkung des KI-Zugriffs auf die Soft- und Hardware des Host-Computers macht es viel harmloser. Auf jeden Fall wird die intelligente KI keine geheimen Nachrichten an ihre menschlichen Unterstützer senden können, indem sie den Morsecode mit Kühlventilatoren abwehrt.

Künstliche Intelligenz in einen Computer ohne Zugang zum Internet zu integrieren, ist eine gute Möglichkeit, die heimtückischen Pläne der KI zu vereiteln, die Erde vor Ihnen und mir zu schützen. Im Falle eines anderen Fehlers können Forscher den Denkprozess der KI jederzeit verlangsamen, indem sie die Verarbeitungsgeschwindigkeit des Computers verlangsamen, regelmäßig den Reset-Knopf drücken oder die KI vom Strom trennen.

Diese Sicherheitsmaßnahmen wurden entwickelt, um hochintelligente und gefährliche Computerviren zu bekämpfen, aber wie effektiv sie tatsächlich sind, ist unklar.

Catch-22 (Roman des amerikanischen Schriftstellers J. Heller; ca. Mixednews) besagt, dass wir unsere Ideen nicht in vollem Umfang testen können, bis die Entwicklung der KI abgeschlossen ist. Aber um KI sicher zu machen, sei es notwendig, eine Reihe geeigneter Maßnahmen zu entwickeln, sagt Yampolsky. "Die beste Option besteht darin, die Nutzung von KI-Systemen einzuschränken und diese Einschränkungen dann bei Bedarf entsprechend den zunehmenden Fähigkeiten der KI zu ändern."

Setzen Sie niemals einen menschlichen Sicherheitsbeamten auf das Fahrzeug

Bei einem scheinbar harmlosen Gespräch mit einem Wachmann wird die KI nichts daran hindern, psychologische Techniken wie Freundschaft oder Erpressung einzusetzen. Eine Person kann bestochen werden, indem man ihr perfekte Gesundheit, Unsterblichkeit oder sogar das Versprechen verspricht, Verwandte und Freunde aus der anderen Welt zurückzukehren. Oder erreichen Sie alles mit Drohungen.

Der sicherste Weg, mit KI zu kommunizieren, besteht darin, bei der Lösung eines bestimmten wissenschaftlichen oder technischen Problems eine Antwort aus den vielen verfügbaren Optionen auszuwählen, erklärt Yampolsky. Dies wird dazu beitragen, das superintelligente Orakel an der kurzen Leine zu halten.

Viele Forscher glauben, dass es trotz aller Vorsichtsmaßnahmen nie gelingen wird, die smarte KI unter Verschluss zu halten. Das jüngste Experiment von Eliezer Yudkowsky, einem Forscher am Institut für Singularität, zur Schaffung künstlicher Intelligenz hat gezeigt, dass sogar Intelligenz auf menschlicher Ebene einen Menschen täuschen und aus der Haft "entkommen" kann.

Trotzdem besteht Yampolsky darauf, die KI strikt zu isolieren – es ist immer noch besser, als aufzugeben und ihr völlige Freiheit zu geben. Aber wenn die Entwicklung der KI den Punkt erreicht, an dem sie eine Person mithilfe des Unterbewusstseins (Vorhersage der Zukunft), Telepathie oder Telekinese manipulieren kann, werden die Konsequenzen unvorhersehbar sein.

„Wenn sich eine solche KI selbst verbessert und ein Niveau erreicht, das die Fähigkeiten der menschlichen Intelligenz deutlich übersteigt, sind die Folgen nicht einmal absehbar“, warnt Yampolsky.

Beliebt nach Thema