2024 Autor: Adelina Croftoon | [email protected]. Zuletzt bearbeitet: 2023-12-17 02:03
Superintelligente Computer oder Roboter, die die Existenz der Menschheit bedrohen, sind eine beliebte Handlung der Science-Fiction. In Wirklichkeit, so Wissenschaftler, kann ein solches Weltuntergangsszenario nur durch die Schaffung eines virtuellen „Gefängnisses“zur Eindämmung künstlicher Intelligenz (KI) verhindert werden. Und dies muss geschehen, bevor er lernt, sich seiner selbst bewusst zu sein und sich zu verbessern..
Wenn man diesen Geist aus der Flasche lässt, dann kann aus einem Orakel, das unsere Probleme löst, eine apokalyptische Bedrohung werden, sagt Roman Yampolsky, Wissenschaftler an der University of Louisville, Kentucky, der auf dem Gebiet der Informatik arbeitet. Die Bedingungen, unter denen die KI enthalten sein wird, müssen sorgfältig geplant werden, damit sie sich nicht durch Bedrohungen, Bestechung, Versuchung oder Computerhacken befreien kann.
„Er kann viele Möglichkeiten der Beeinflussung erfinden, eine komplexe Sozio-Engineering-Kombination ankurbeln und vorhandene Hardwarekomponenten für Zwecke nutzen, die wir uns nicht einmal vorstellen können“, glaubt Yampolsky. - Solche Software hat unbegrenzte Möglichkeiten, Computer und Netzwerke zu infizieren. KI kann Wege finden, die menschliche Psyche zu beeinflussen, Menschen zu bestechen oder zu erpressen, die damit in Kontakt stehen."
Das Aufkommen eines neuen wissenschaftlichen Forschungsgebiets, das sich mit dem Problem der Schaffung eines „Gefängnisses“für künstliche Intelligenz beschäftigt, hat weitere Vorteile. Diese Studien sind sehr nützlich, um die Computersicherheit und Kryptographie zu verbessern, ist sich Yampolsky sicher. Seine Vorschläge wurden in der März-Ausgabe der Fachzeitschrift Consciousness Studies detailliert beschrieben.
So richten Sie eine Falle für Skynet ein
Für den Anfang können Sie künstliche Intelligenz in eine "virtuelle Maschine" einschließen. Lassen Sie es innerhalb eines normalen Betriebssystems laufen - die Einschränkung des KI-Zugriffs auf die Soft- und Hardware des Host-Computers macht es viel harmloser. Auf jeden Fall wird die intelligente KI keine geheimen Nachrichten an ihre menschlichen Unterstützer senden können, indem sie den Morsecode mit Kühlventilatoren abwehrt.
Künstliche Intelligenz in einen Computer ohne Zugang zum Internet zu integrieren, ist eine gute Möglichkeit, die heimtückischen Pläne der KI zu vereiteln, die Erde vor Ihnen und mir zu schützen. Im Falle eines anderen Fehlers können Forscher den Denkprozess der KI jederzeit verlangsamen, indem sie die Verarbeitungsgeschwindigkeit des Computers verlangsamen, regelmäßig den Reset-Knopf drücken oder die KI vom Strom trennen.
Diese Sicherheitsmaßnahmen wurden entwickelt, um hochintelligente und gefährliche Computerviren zu bekämpfen, aber wie effektiv sie tatsächlich sind, ist unklar.
Catch-22 (Roman des amerikanischen Schriftstellers J. Heller; ca. Mixednews) besagt, dass wir unsere Ideen nicht in vollem Umfang testen können, bis die Entwicklung der KI abgeschlossen ist. Aber um KI sicher zu machen, sei es notwendig, eine Reihe geeigneter Maßnahmen zu entwickeln, sagt Yampolsky. "Die beste Option besteht darin, die Nutzung von KI-Systemen einzuschränken und diese Einschränkungen dann bei Bedarf entsprechend den zunehmenden Fähigkeiten der KI zu ändern."
Setzen Sie niemals einen menschlichen Sicherheitsbeamten auf das Fahrzeug
Bei einem scheinbar harmlosen Gespräch mit einem Wachmann wird die KI nichts daran hindern, psychologische Techniken wie Freundschaft oder Erpressung einzusetzen. Eine Person kann bestochen werden, indem man ihr perfekte Gesundheit, Unsterblichkeit oder sogar das Versprechen verspricht, Verwandte und Freunde aus der anderen Welt zurückzukehren. Oder erreichen Sie alles mit Drohungen.
Der sicherste Weg, mit KI zu kommunizieren, besteht darin, bei der Lösung eines bestimmten wissenschaftlichen oder technischen Problems eine Antwort aus den vielen verfügbaren Optionen auszuwählen, erklärt Yampolsky. Dies wird dazu beitragen, das superintelligente Orakel an der kurzen Leine zu halten.
Viele Forscher glauben, dass es trotz aller Vorsichtsmaßnahmen nie gelingen wird, die smarte KI unter Verschluss zu halten. Das jüngste Experiment von Eliezer Yudkowsky, einem Forscher am Institut für Singularität, zur Schaffung künstlicher Intelligenz hat gezeigt, dass sogar Intelligenz auf menschlicher Ebene einen Menschen täuschen und aus der Haft "entkommen" kann.
Trotzdem besteht Yampolsky darauf, die KI strikt zu isolieren – es ist immer noch besser, als aufzugeben und ihr völlige Freiheit zu geben. Aber wenn die Entwicklung der KI den Punkt erreicht, an dem sie eine Person mithilfe des Unterbewusstseins (Vorhersage der Zukunft), Telepathie oder Telekinese manipulieren kann, werden die Konsequenzen unvorhersehbar sein.
„Wenn sich eine solche KI selbst verbessert und ein Niveau erreicht, das die Fähigkeiten der menschlichen Intelligenz deutlich übersteigt, sind die Folgen nicht einmal absehbar“, warnt Yampolsky.
Empfohlen:
Milliardärs-Erfinder Elon Musk Fürchtet Künstliche Intelligenz
Wenn eines Tages Roboter unseren Planeten übernehmen, wird Elon Musk wahrscheinlich sagen: "Ich habe es dir gesagt!" Es stellte sich heraus, dass der geniale Milliardär und Erfinder, der es liebt, das Unmögliche wahr werden zu lassen, sich ernsthaft Sorgen um die Forschung im Bereich der künstlichen Intelligenz (KI) macht. Musk twitterte letzte Woche: „Wir müssen mit künstlicher Intelligenz sehr vorsichtig sein. Es ist potenziell viel gefährlicher als nukleare Sprengköpfe." Spus
Die Suche Nach Außerirdischem Leben Muss Mit Fragen über Leben Und Tod Beginnen
Was ist Leben? Der Versuch, diese Frage zu beantworten, führt die Menschen oft in eine Sackgasse. Die Sackgasse beginnt damit, dass es in jeder Sprache viele Definitionen des Wortes "Leben" gibt. Hier sind zum Beispiel drei Verwendungen mit unterschiedlichen Bedeutungen. Gibt es Leben auf dem Mars? Gibt es Leben in diesem Organismus? Ist das Leben lebenswert? Die Definition von "Leben" ist in diesen drei Fällen grundlegend anders. Im ersten Fall bedeutet Leben ein kollektives Phänomen, im zweiten bezieht es sich auf die Fähigkeit eines einzelnen Organismus
Exodus: Die Menschheit Muss Den Mars Erforschen, Um Zu überleben
Elon Musk behauptet: Wenn die Menschheit an ihrem Überleben interessiert ist, muss sie eine Million Erdenbewohner zum Mars schicken. „Komm mit ihr, diese Erde! - Elon Musk schenkte mir plötzlich ein Lächeln. "Wer kümmert sich um sie?" Wir saßen in seinem kleinen Büro, in der Ecke eines geräumigen Büros im SpaceX-Hauptquartier in Los Angeles. Es war ein sonniger Tag, Donnerstag, einer dieser Tage, an denen Musk bei SpaceX zu finden ist. Aber Elon war listig, ironisch, schließlich war er es, der mehr als alles war
Stephen Hawking Nennt Künstliche Intelligenz Den Größten Fehler Der Geschichte
Der berühmte britische Physiker Stephen Hawking sagte in einem vom Science-Fiction-Film Transcendence inspirierten Artikel mit Johnny Depp, dass die Unterschätzung der Bedrohung durch künstliche Intelligenz der größte Fehler in der Geschichte der Menschheit sein könnte. In einem Artikel, der gemeinsam mit dem Informatikprofessor Stuart Russell von der University of California in Berkeley und den Physikprofessoren Max Tegmark und Frank Wilczek aus Massachusetts verfasst wurde
Wann Beginnt Die Künstliche Intelligenz, Menschliche Emotionen Zu Verstehen?
Würden Sie einem Roboter vertrauen, wenn es Ihr behandelnder Arzt wäre? Emotionale intelligente Maschinen sind vielleicht gar nicht so weit von uns entfernt, wie sie scheinen. In den letzten Jahrzehnten hat künstliche Intelligenz die Fähigkeit, die emotionalen Reaktionen von Menschen zu lesen, dramatisch verbessert. Aber Emotionen zu lesen bedeutet nicht, sie zu verstehen. Wenn die KI sie selbst nicht erleben kann, wird sie uns dann jemals vollständig verstehen können? Und wenn nicht, riskieren wir, Robotern Eigenschaften zuzuschreiben, die sie nicht haben? Letzte Generation