Drucken

Bitte loggen sie sich ein oder registrieren sie sich.
1 Stunde 1 Tag 1 Woche 1 Monat Immer
Einloggen mit Benutzername, Passwort und Sitzungslänge

[Zockerbit]

Hallo zusammen,

in der heutigen Zeit findet man sie praktisch in jedem elektronischen Gerät, in jedem Spiel, oder in jedem Roboter - die künstliche Intelligenz (kurz: KI).
Mal in vereinfachter Form, oder als komplexen Mechanismus programmiert um fordernde Aufgaben zu meistern.

In den letzten Jahren gab es ja mal immer wieder Diskussionen darüber auf welchem Stand die Forschung im Bereich der KI momentan ist und vor allem, wie weit man diese noch bringen wird.
Nicht gerade wenige behaupten auch, dass die künstliche Intelligenz irgendwann auch zum Verhängnis der Menschheit werden könne. Darunter fällt auch die Meinung des bekannten Physikers Stephen Hawking, der in einem Artikel mal sagte, dass die künstliche Intelligenz entweder das Beste, oder das Schlechteste sein wird das der Menschheit je passiert ist.

Der Gegenpart solcher Meinungen behauptet natürlich, dass ein derartiger Fortschritt in dieser Technologie unbedenklich bzw. praktisch unmöglich wäre, da eine KI ja immer nach gewissen vorgegeben Parametern arbeitet und theoretisch nicht außer Kontrolle geraten kann, geschweige denn intelligenter als der Mensch werden und somit zur Gefahr werden könne.

Erst kürzlich wurde zum Beispiel ja darüber berichtet, dass der Konzern Facebook ein KI-System abschalten musste, da dieses seine eigene, effizientere Sprache entwickelt hat, die der Mensch nicht folgen konnte bzw. für ihn wenig Sinn ergab.

Daher stehen natürlich die Fragen im Raum, wie fortschrittlich kann eine KI zukünftig werden? In Hollywood wird eine KI ja oft als übermenschlich, selbstständig und/oder als gefährlich verkörpert die den Menschen als böses Individuum identifiziert. Doch wie sieht es in der zukünftigen Realität aus, ist mit einer Gefahr zu rechnen die das Ende der Menschheit bedeuten könnte? Oder lässt sich daraus nur mehr (unbedenklichen) Nutzen für zukünftige Projekte ziehen?

Bevor ich mich selbst dazu äußere möchte ich noch ein paar weitere Meinungen hier einholen, eventuell kennt sich der ein oder andere sogar verstärkt mit dieser Materie aus und kann genaueres dazu sagen & gewisse Dinge widerlegen.

[Veichen blühen ewig]

Die Frage wie fortschrittlich eine KI werden kann ist falsch, denn da gibt es kein Limit. So bald sie den Punkt erreicht an dem sie eigentständig lernen kann, wird sie dank Internet alles innerhalb weniger Monate wissen. Ich denke das setzt aber Selbsterkenntnis voraus, da ja auch ein Antrieb vorhanden sein muss.

Stell dir ein Kind vor, welches die Rechenleistung eines Deep Blue hat. Innerhalb einiger Jahre wäre uns solch eine KI total überlegen, zumindest was den Geist betrifft.

Ich würde die Frage stellen, ob es möglich ist dass eine Maschine zur Selbsterkenntnis gelangt.

[Zockerbit]

Naja, wenn eine Maschine/Programm zur Erkenntnis gelangt, hat das doch auch etwas mit Fortschritt zu tun.

Fortschritt ist eben nur das was man daraus macht. Sicherlich gibt es, rein theoretisch gesehen, kein Limit, aber niemand weiß wie weit man überhaupt noch in der Entwicklung vorstößt um überhaupt mal an diesem Punkt der Selbsterkenntnis zu gelangen.

Und wenn es kein Limit gibt, ist diese Frage....

Ich würde die Frage stellen, ob es möglich ist dass eine Maschine zur Selbsterkenntnis gelangt.

ja eigentlich auch schon mit einem Ja beantwortet 


Aber gut, ich habe die Frage natürlich falsch formuliert. Vielleicht sollte es viel eher lauten, ob der Mensch aufgrund der fortschreitenden künstlichen Intelligenz bzw. je weiter man in der Entwicklung kommt, irgendwann die Kontrolle darüber verlieren könnte und die eigene Intelligenz somit übertroffen wird.

[Veichen blühen ewig]

Da schon ein Computer sehr, sehr, sehr viel schneller "denkt" als ein Mensch, und auch noch unzählige Gedanken parallel verarbeiten kann, stellt sich mmn die Frage nicht, ob wir von ihnen übertroffen werden, sondern nur wann. Bzw hätten sie Selbsterkenntnis, wären wir schon hinterher. Und man kann nicht etwas unter Kontrolle halten, dass einem überlegen ist.

Persönlich halte ich KI für keine gute Idee. Sollten sich die Dinger dann wirklich logisch verhalten, wäre der erste Schritt die Säuberung des Planeten von uns. Vielleicht nicht in einer idealistischen  Zukunft, aber zum jetzigen Zeitpunkt müsste man die Menschheit ausrotten, um seiner eigenen Gattung Chancen zu ermöglichen.

[Octavianus]

Wie Asimov in seiner Foundation-Saga schön gezeigt hat, trifft die (hochentwickelte) künstliche Intelligenz auf lange Sicht vermutlich die besseren Entscheidungen, deshalb glaube ich, dass ich das Zeitalter erlebe, in dem die Spezies Normalmensch noch das Heft des Handelns in der Hand hält und andererseits bin ich gespannt, wie der Stand in knapp 50 Jahren ist, denn dann könnte die Ablösung schon weit fortgeschrittener sein.

[Zockerbit]

Persönlich sehe ich die Gefahr eher in den Menschen die hinter dieser KI stecken werden und diese so programmieren, damit diese freie Hand über sich selbst hat und allein der Zerstörung dienen soll.

Ich meine wenn man an "KI wird eine Gefahr für den Menschen" denkt, denken die meisten sofort an einen Hollywood-Streifen á la I Robot mit Will Smith, in dem sich Roboter, die den Menschen helfen sollen, sich gegen diese wenden und praktisch abschlachten.

Doch ist ein Szenario, dass eher die komplette Wirtschaft durch diese künstliche Intelligenz beeinträchtigt, wenn nicht sogar zerstört wird, doch bedeutend wahrscheinlicher und in meinen Augen die eigentliche Gefahr.

...aber zum jetzigen Zeitpunkt müsste man die Menschheit ausrotten...

Und die Ausrottung würde allein so stattfinden, dass sich der Mensch, aufgrund der zerstörten Verhältnisse der globalen Wirtschaft, am Ende selbst ausrottet da die Gesetze sowie Papiere, nichts mehr wert sein werden.


Daher halte ich eine fortschreitende KI-Technik ebenfalls für eine (zukünftige) Gefahr. Nicht für die nächsten paar Jahre, aber so wie Octavianus schon sagte, könnte in 50 Jahren schon der Grundstein für dieses Zeitalter gelegt sein.

[Maddux]

Es gibt zurzeit keinen Computer der auch nur ansatzweise so viel Rechenleistung hat wie das menschliche Gehirn. Bis es soweit ist würden, bei weiterer Verdoppelung der Rechenleistung jedes Jahr, noch mindestens 50 Jahre dauern.
Es gibt spezielle Supercomputer die ganz bestimmte Rechenoperationen schneller ausführen können als ein Mensch, bzw sehr viel mehr gleichzeitig als ein Mensch könnte. Beispiele hierfür wären Deep Blue, der gegen Kasparow gespielt hat und das von Google entwickelte AlphaGo.
Kasparow konnte den ersten Zweikampf gewinnen und hätte den zweiten Wettkampf auch gewonnen, wäre er nicht zu müde gewesen um zu erkennen das die Partie mindestens Unentschieden enden wird.
Im Falle von AlphaGo hatte das Programm im frühen Spiel Züge getätigt die ein Mensch nie tun würde da Es errechnet hatte das die Züge im späten Spiel zum Sieg führen werden. Eine Rechenleistung die ein Mensch aufgrund der extrem großen Anzahl an Stellungen im Go nie leisten könnte.

Abermillionen gleichzeitige Berechnungen pro Sekunde einer ganz bestimmten Aufgabe über einen langen Zeitraum ohne müde zu werden sind das was eine KI zurzeit besser als ein Mensch kann und selbst da sind sie (noch) nicht immer haushoch überlegen. Vergleichbar mit einem Inselbegabten Genie wie Kim Peak das ansonsten strohdumm ist, sich aber nicht nebenher noch um Dinge wie Atmung, Verdauung etc kümmern muss.

Allgemein halte ich garnichts davon irgendwelchen Algorithmen die Entscheidungsgewalt zu geben, egal wieviele Sicherheitsmechanismen man da einbaut. Code wird von Menschen geschrieben und wie man bisher bei ausnahmslos jedem Stück Software gesehen hat wird immer Irgendwas verkackt. Der ethisch und moralisch denkende Mensch handelt schon nicht immer einwandfrei. Da will ich keiner, von fehlerhaften Menschen programmierten, KI ohne Ethik und Moral Befehlsrechte über wichtige Bereiche geben.
Weil dann hat man wirklich irgendwann ein Skynet das nach, mehr oder weniger langer, Berechnung zu dem Schluß kommt das eine Ausrottung der Menschheit die wahrscheinlichste Lösung ist um den Planeten zu retten.
Oder sie macht garnichts weil die Erde eh irgendwann von der sterbenden Sonne verschlungen wird.

[Maddux]

@Zockerbit:
In den 1,5 bis 2 Millionen Jahren die der Mensch gebraucht hat um sich vom Baumbewohner zum Selfieking aufzusteigen hat er die meiste Zeit ohne Papiere oder Gesetze gelebt und überlebt. Solange wir den Planeten durch Atombomben oder andere Maßnahmen unbewohnbar machen würde ich mir keine Sorgen darum machen das sich die Menschheit komplett ausrottet. Man wird in der Entwicklung ein paar hundert bis tausend Jahre zurückfallen aber da werden schon genug Menschen übrig bleiben damit die Menschheit nicht komplett ausstirbt.

[White]

Die Geschichte zeigt ja auch, dass genau das immer wieder passiert. Ganze hochlulturen verschwanden spurlos und mit ihnen ihre Erkenntnisse.
Ich glaube aber nicht, dass das nochmal passieren könnte. Es sei denn es gibt tatsächlich einen komplett alles verwüstenden Atomkrieg.

Was die KI angeht wird es darauf ankommen, wo die Grenzen liegen.
Einfach mal ein saudummes Beispiel. Nehmen wir eine KI die verhindern soll, dass in Onlinegames betrogen wird. Das ist quasi unmöglich. Ultimative Lösung wäre a) das abschalten des Games oder b) das abschalten aller (evtl. auch potenzieller) Spieler.
Und zack, schon lebt Skynet xD

[Maddux]

@White:
Das mit "KI bannt Cheater" gab es vor ein paar Monaten in TESO. Da hat ein Algorithmus massenweise Spieler automatisch gebannt die er für Cheater hielt und dabei sehr viel mehr Unschuldige getroffen als Cheater. Aber was will man von Bethesda auch erwarten? Auf die Frage ob es sich bei etwas um einen Bug oder ein Feature handelt antworten die mit "Yes".

Die vielen "verschwundenen" Hochkulturen wurden aber nie komplett ausgerottet sondern konnten sich aus diversen Gründen nicht länger erhalten.
Menschen neigen dazu sich auf engen Gebieten zu ballen, was Arbeitskraft sowie Wissen an einem Punkt bündelt und die Entstehung einer Hochkultur begünstigt, gleichzeitig aber auch oft ihr Todesurteil bedeutet. Irgendwann ist der Bedarf an Nahrung und Wasser nichtmehr, weder finanziell noch logistisch, zu bewältigen und die Menschen wandern ab. Kriege und Naturkatastrophen beschleunigen diesen Prozess.
Irgendwann kann die Kultur ihren Status als Hochkultur nichtmehr halten und die jeweilige Hochkultur als solche geht unter, nicht aber ihre ehemaligen Einwohner die nun nur woanders leben.

Egal ob Inka, Maya, Angkor Wat, Ägypten und der ganze Mittelmeerraum oder was es in den letzten zehntausend Jahren noch so an Hochkulturen gab. Die Hochkulturen sind verschwunden aber ihre Menschen nicht und oft auch nicht ihr Wissen. Wobei das beim Wissen sehr unterschiedlich ist. Das Wissen der Griechen und Römer zB war sehr gut dokumentiert und hat auch dadurch 2 Jahrtausende ständiger Kultur- und Machtwechsel überdauert. Zudem war deren "Untergang" sehr viel schleichender und ihre Sprachen sind bis heute gebräuchlich.

Bei dem Wissen und der Sprache zB der Inka, Maya oder Summerer sieht es hingegen wieder anders aus. Ihre Dezimierung sowie Assimilierung in andere Kulturen war drastischer und somit auch die Ersetzung ihrer Sprache und Kultur. Je weniger Menschen eine Sprache sprechen und je seltener sie dokumentiert ist, desto schneller gerät sie in Vergessenheit.

[kn0xv1lle]

Der Begriff KI ist ja schon falsch an sich und gehört zu den neuen Modebegriffen, die gerne mal genannt werden. Intelligent ist daran nichts. Ein Neuronales Netz lernt nur anhand der Daten die es bekommt. Sind die Daten scheiße dann ist die KI auch nicht wirklich toll. Das eine "KI" irgendwann einmal selbst denken könnte halte ich für ausgeschlossen. Lernen ja anhand von vorgegebenen Parameter aber selbst denkend ausserhalb der vorgegebenen Parameter auf keinen Fall. Wir wissen doch noch nicht einmal warum wir einen freien willen besitzen. Wie sollen wir dann einer Maschine so etwas beibringen.

[Veichen blühen ewig]

Wir wissen doch noch nicht einmal warum wir einen freien willen besitzen. Wie sollen wir dann einer Maschine so etwas beibringen.

Genau weil wir es nicht wissen, kann man nicht sagen dass es bei hochentwickelten Maschinen nicht auch passieren könnte.

[kn0xv1lle]

Wir wissen doch noch nicht einmal warum wir einen freien willen besitzen. Wie sollen wir dann einer Maschine so etwas beibringen.

Genau weil wir es nicht wissen, kann man nicht sagen dass es bei hochentwickelten Maschinen nicht auch passieren könnte.

Doch zumindest wüsste ich nicht wie solch eine hochentwickelte Maschinen urplötzlich seine eigene Programmierung ändern sollte und ein eigenes Gewissen entwickelt. Einem Neuronalen Netz bringst du anhand vorhandener Daten etwas bei und dementsprechend verändern sich die Gewichtungen an den Entscheidungsknoten. Man brauch also immer Daten auf denen die Entscheidungen beruhen. Mehr steckt nicht hinter diesem "Intelligenten Lernen". Das ist aber meilenweit von einem freien willen entfernt. Dementsprechend ist das was eine KI macht immer davon abhängig was ich ihr beibringe und in diesem Rahmen trifft sie dann ihre Entscheidung.

Wie soll so ein System das rein logisch aufgebaut ist denn plötzlich einen eigenen Willen entwickeln ?

[Veichen blühen ewig]

Kann ich dir auch nicht beantworten. Vielleicht reicht ja schon die Größe des Gehirns? Man nimmt ja an, dass der Mensch erst Selbsterkenntnis entwickelt hat, als er mit Feuer umgehen konnte, und durch die zusätzliche Energiezufuhr, das Gehirn größer werden konnte.

Wieso entwickelt eine Programm bei Googel plötzlich seine eigene Sprache, ohne dass es jemand dazu aufgefordert hätte?

[Zockerbit]

Dementsprechend ist das was eine KI macht immer davon abhängig was ich ihr beibringe und in diesem Rahmen trifft sie dann ihre Entscheidung.

Wenn es wirklich so einfach zu bezeichnen wäre, dann frage ich mich aber auch warum eine KI sich dann oft anders verhält als von seinen eigenen Entwicklern gedacht? In diesem Sinne ist eine (gut geschriebene) KI dennoch für niemanden berechenbar, oder etwa nicht?

Auch wenn man sagt, dass sich nur die Gewichtungen an den Entscheidungsknoten ändern können, ist dies im Grunde genommen dann doch auch ein eigenständiges Handeln, da der Mensch nicht vorgibt wie diese ''Gewichtung'' verteilt wird.

Ich meine wenn ein experimentelles KI-System immer so handeln würde wie von seinen Entwicklern gewünscht bzw. gedacht, hätte es bis hierhin nicht den ein oder anderen Fehlschlag gegeben. Was natürlich auch daran liegt das eine derartige Programmierung alles andere als einfach, sondern hoch komplex ist, keine Frage.

Aber hier kategorisch auszuschließen, dass zukünftig eine sich selbstständig erweiternde Technik nicht möglich wäre, halte ich für gewagt. Eben weil der Mensch oft Dinge erreicht hat, die man Jahrzehnte vorher für unmöglich hielt.

[Dr. Gonzo]

Da ich nahezu mein gesamtes Wissen aus Filmen beziehe, halte ich natürlich die KI für den Niedergang der Menschheit bzw. für den letzten Sargnagel. Die Herrschaft der Maschinen wird kommen!