Neuro-Forschung: Angst vor der allmächtigen Gehirn-Kopie

CorbisForscher wollen intelligente Supercomputer nach dem Vorbild des menschlichen Gehirns bauen. Niemand weiß, ob das teure Vorhaben je gelingt - aber ein Erfolg könnte schlimmere Folgen für die Menschheit haben als ein Scheitern.

http://www.spiegel.de/wissenschaft/m...823928,00.html
  1. #110

    Zitat von freiheitsglocke Beitrag anzeigen
    Naja, wenn man Schritt für Schritt das Gehirn ersetzt - meinetwegen über Wochen - dann bleibt die Bewusstseinskontinuität auch erhalten und man wird tatsächlich übertragen. Entscheidend ist doch die Information und nicht der technische Aufbau ihres Trägers.
    Diese Sicht halte ich sogar für vereinbar mit einem nicht-materialistischen Verständnis von Bewusstsein. Selbst wenn Bewusstsein nicht künstlich herstellbar, sondern eine fundamentale Eigenschaft der Natur wäre, würde sich aus meiner Sicht die Individualisierung und Personifizierung von Bewusstsein erst aus dessen Inhalten ergeben. Befreit von Inhalten würde ich Bewusstsein als unpersönlich betrachten.
  2. #111

    Ich Bewusstsein ist nicht simulierbar

    Zitat von sysop Beitrag anzeigen
    Forscher wollen intelligente Supercomputer nach dem Vorbild des menschlichen Gehirns bauen. Niemand weiß, ob das teure Vorhaben je gelingt - aber ein Erfolg könnte schlimmere Folgen für die Menschheit haben als ein Scheitern.

    Neuro-Forschung: Angst vor der allmächtigen Gehirn-Kopie - SPIEGEL ONLINE - Nachrichten - Wissenschaft
    Sicherlich ist es möglich, wenn wir dereinst quantenphysikalisch basierte Rechnersysteme haben werden, überragende Intelligenzleistungen wie z.B. automatische Sprachübersetzung oder Simulationen von virtuellen Realitäten in Echtzeit zu realisieren.
    Aber das Ich-Bewusstsein des Menschen lässt sich niemals simulieren, da es auf dem Grundzustand geringster Anregung des Bewusstseinsfeldes basiert, dass seit altersher Gegenstand religiöser und mystischer explorativer Erfahrungenprozesse ist. Transzendenz ist per se jenseits aller physikalische Realität und trotzdem der Ursprung des Ich-Bewusstseins, des Ich-Gedanken. Eine nicht-biologische Maschine bleibt immer eine von Menschen gemachte Maschine, kein Produkt jahrmilliardenalter biologischer und geistiger Evolution.

    Jeder der meditiert, wird das verstehen. Deshalb kann natürlich ein Computer niemals Menschenrechte für sich beanspruchen, selbst wenn er das verlangt! Er ist ein Stück Hardware und Software. Aber solche Computer könnten der Menschheit bei der Bewältigung unserer zahlreichen Aufgabenstellungen eine für unsere Evolution entscheidende Hilfe darstellen.

    Da wir Menschen nur einen Bruchteil (5%) unseres neuronalen Systemes mit seinen 1 Billiarde synaptischen Verknüpfungen nutzen, wäre Geld besser in die Entwicklung dieser 7 Milliarden "Biocomputer" investiert. Damit könten wir unser Wohlbefinden steigern und ín einer problemfreieren Welt leben.
  3. #112

    Zitat von evenstephen Beitrag anzeigen
    Wir werden den Maschinen nach und nach beibringen, Gefühle und menschliches Verhalten bis zur Perfektion zu simulieren und ja irgendwann, da werden wir einfach nicht mehr wissen, ob sie diese Reaktionen und Verhaltensweisen nur simulieren, oder sie tatsächlich "empfinden". Denn wie sollte man das jemals testen?
    Die Maschinen werden uns überzeugen und uns wird nichts anderes übrig bleiben, als ihnen zu glauben.

    Wir werden ihnen nie glauben. Weil wir immer wissen, dass es nur Maschinen sind. Ich stimme vollkommen zu, dass Naturwissenschaftler es nicht testen können, sondern Bewusstsein und Gefühle „schreiben“ wir „zu“ oder „erkennen“ sie „an“. Doch warum sollten wir das bei einem Gerät tun, das wir selbst gebaut haben?

    Sollten diese Simulationen immer besser werden, und das werden sie, obwohl niemand weiß, bis zu welchem Grad der Perfektion, so wird dennoch keiner den Maschinen „glauben“.

    Warum?

    Erstens weil wir rein äußerlich erkennen, dass es sich um Maschinen handelt, bzw. schlicht über die Information verfügen, ob es sich um eine Maschine handelt, die zum Beispiel als Navigator Richtungsanweisungen gibt.

    Aber das ist natürlich erst der Anfang. Nun war der Mensch bislang noch nie vorher in der Situation, unterscheiden zu müssen, ob es sich bei einem Kommunikationspartner um eine Maschine oder um einen Menschen handelt, und deshalb lässt sich er sich heute noch leicht verblüffen. Das ist genauso wie bei den Menschen, die die ersten Gemälde eines Zeuxis im antiken Griechenland, eines Giotto im späten Mittelalter oder eines Leonardo in der Renaissance gesehen haben: Sie sind verblüfft und lassen sich für einen Moment täuschen, und zwar: mit Vergnügen. Ebenso läuft das bei den special effects der Filmindustrie.

    Wer heute „Vom Winde verweht“ anschaut, dem ist es völlig unbegreiflich, dass man damals die Studioaufnahmen für echt halten konnte. Dasselbe galt für den ersten „King Kong“, inzwischen für „Jurassic Park“ und wird sich immer weiter fortsetzen. Die Illusionsindustrie eilt der menschlichen Unterscheidungsfähigkeit immer nur um ein paar Jahre voraus.

    Auch wenn der Betrachter sich aus Spaß und wissentlich im Kino gerne einer Illusion überlässt, so ist im wirklichen Leben dennoch ein hochsensibler Unterscheidungsprozess im Gange, der Realität von Illusion unterscheidet, wenn erst einmal die Möglichkeit besteht, dass Illusionen unterwegs sind.

    Und daher zweitens:

    Wenn ein heutiger Mensch von einem Automaten getäuscht werden könnte, so lacht man in wenigen Jahren über so einen Naivling, denn wenn Menschen überhaupt erst einmal anfangen, Äußerungen auf Echtheit oder maschinellen Ursprung abzutasten (was derzeit noch gar nicht passiert – vom Navi und der Zeitansage abgesehen), dann werden sie ganz schnell eine technisch nicht mehr einholbare Intuition entwickeln, in kürzester Zeit Maschinen von echten Menschen zu unterscheiden.

    Wenn man nur berücksichtigt, welche Nuancen im Tonfall oder in der Sprechweise ausreichen können, um in einer wirklichen Testsituation unter lebendigen Menschen das Echte vom Geheuchelten zu unterscheiden etc., dann ist die Vorstellung vollkommen phantastisch, dass dies jemals durch ein Programm erreicht werden könnte.

    Computer werden Maschinen bleiben, nützlich, aber Idi*ten. Für immer.
  4. #113

    Zitat von neoptolemos Beitrag anzeigen
    Auch wenn der Betrachter sich aus Spaß und wissentlich im Kino gerne einer Illusion überlässt, so ist im wirklichen Leben dennoch ein hochsensibler Unterscheidungsprozess im Gange, der Realität von Illusion unterscheidet, wenn erst einmal die Möglichkeit besteht, dass Illusionen unterwegs sind.
    Da täuschen Sie sich wohl. An nichts glaubt der Mensch so gerne wie an Fiktionen und Illusionen. Davon leben doch die Kirchen und viele andere Institutionen. Das Schöne an den Illusionen ist, dass sie viel weniger problematisch und gefährlich sind als die Wirklichkeit. Eine Maschine als Lebenspartner widerspricht nie und enttäuscht nie, ist zuverlässig und immer verfügbar! Nicht die Realität und Gegenwart prägen das Leben, sondern die Erwartungen an die Welt und an das Leben. Das ist gerade der Sinn oder die Wirkung des Bewusstseins.
  5. #114

    Zitat von writing-angel Beitrag anzeigen
    Da wir Menschen nur einen Bruchteil (5%) unseres neuronalen Systemes mit seinen 1 Billiarde synaptischen Verknüpfungen nutzen, wäre Geld besser in die Entwicklung dieser 7 Milliarden "Biocomputer" investiert. Damit könten wir unser Wohlbefinden steigern und ín einer problemfreieren Welt leben.
    Bildung und Forschung sind zwei unterschiedliche Dinge. Wenn einmal Geld für Forschung ausgibt kann die Menschheit unter Umstände jahrhunderte lang provitieren. Bildung wirkt nur bei denen die gebildet werden - spätenstens nach dem Tod sind die Bildungsausgaben versunken. Es sei denn es wurden von den Gebildeten Forschung betrieben - aber dann finden wir uns ja wieder hier. Gerne wird ein Aspekt gegen einen anderen ins Felde geführt - hilft aber selten weiter
  6. #115

    kritik, von wem?

    Zitat von sysop Beitrag anzeigen
    Forscher wollen intelligente Supercomputer nach dem Vorbild des menschlichen Gehirns bauen. Niemand weiß, ob das teure Vorhaben je gelingt - aber ein Erfolg könnte schlimmere Folgen für die Menschheit haben als ein Scheitern.

    Neuro-Forschung: Angst vor der allmächtigen Gehirn-Kopie - SPIEGEL ONLINE - Nachrichten - Wissenschaft
    man sollte vor allem schauen von wem die Kritik kommt. Es kommt vor allem von der Konkurrenz um die 1 Milliarde. Das Geld wird so oder so in eins von 6 übriggebliebenen Projekten fliessen, also spielt das erst mal keine Rolle. Kritik kommt haupsächlich von der ETH Zürich, deren Projekt in direkter Konkurrenz mit diesem, von der ETH Lausanne (EPFL) entworfen wurde. Das wird hier natürlich nicht erwähnt. Und es geht hier auch nicht darum, übernatürliche Intelligenz zu schaffen, sondern einfach um ein primitives Modell unseres gehirns zu bauen. Finde ich sehr interessant.
  7. #116

    Zitat von freiheitsglocke Beitrag anzeigen
    Es hat doch niemand ein "materialistisches" Weltbilld. Ich glaube kaum, dass jemand die Existenz von Kultur, Musik, Kunst und Liebe wirklich anzweifelt. Zwar lässt sich alles auf materielle Ursachen herunter brechen, aber das ist eine andere Abstraktionsebene und macht geistige Dinge nicht inexistent.

    "Zwar lässt sich alles auf materielle Ursachen herunter brechen"

    Genau das ist aber Materialismus. Und wenn man dies konsequent zu Ende denkt, kommt man eben zu dem Schluss, dass das Bewusstsein eigentlich gar nicht existieren oder noch weiter gar unser Verhalten beeinflussen dürfte.

    So wie eben auch das Verhalten eines Computers allein durch die Physik vorgegeben ist. Wenn die Vorstellung eines modernen Computers dafür zu abstrakt ist, könnte man in der Theorie z.B. auch eine mechanische universelle Turing-Maschine nehmen, auf deren Speicherband den Speicherinhalt des Supercomputers speichern, der ein Gehirn simuliert und dann sogar wirklich dabei zusehen wie sich die einzelnen Bauteile bewegen und das Programm abarbeiten - kein Bewusstsein weit und breit von Nöten.


    Zitat von freiheitsglocke Beitrag anzeigen
    Es ist außerdem ein großer irrtum von Ihnen, dass ein denkendes Wesen kein Bewusstsein hätte, wenn es funktional beschreibbar sei. Wie kommen Sie überhaupt darauf? Können Sie Ihre Meinung auch wissenschaftlich begründen?

    Die Begründung ist, dass der Materialismus logisch nicht funktioniert und damit der Dualismus vorzuziehen ist. Und ja, ich glaube auch daran eine Seele zu besitzen bzw. das Geist und Materie getrennte Entitäten sind, weshalb eine Rechenmaschine oder irgendein anderes physikalisches Objekt auch niemals ein Bewusstsein besitzen wird.


    Zitat von P97813 Beitrag anzeigen
    Noch unlogischer ist die Idee, dass das "irgendwie" erzeugte Ich dann ewig leben würde, wenn man auf irgendeine Festplatte im Universum ein spezielles Datenmuster schreibt (das der Struktur des eigenen Gehirns entspricht). Wenn dann wäre dies eine Kopie, ein "perfekter Zwilling", aber nur weil man einen perfekten Zwilling hat, ist man selbst nicht unsterblich.

    Zitat von freiheitsglocke Beitrag anzeigen
    Naja, wenn man Schritt für Schritt das Gehirn ersetzt - meinetwegen über Wochen - dann bleibt die Bewusstseinskontinuität auch erhalten und man wird tatsächlich übertragen. Entscheidend ist doch die Information und nicht der technische Aufbau ihres Trägers.

    Dann gehen wir mal einen Schritt weiter und bauen statt einem gleich zwei "perfekte Zwillinge". Wo ist das Bewusstsein jetzt?
    Eine Kopie ist eben immer noch eine Kopie und keine "Übertragung".
  8. #117

    Eine Gewissensfrage

    Zitat von neoptolemos Beitrag anzeigen
    Wir werden ihnen nie glauben. Weil wir immer wissen, dass es nur Maschinen sind. Ich stimme vollkommen zu, dass Naturwissenschaftler es nicht testen können, sondern Bewusstsein und Gefühle „schreiben“ wir „zu“ oder „erkennen“ sie „an“. Doch warum sollten wir das bei einem Gerät tun, das wir selbst gebaut haben?

    Sollten diese Simulationen immer besser werden, und das werden sie, obwohl niemand weiß, bis zu welchem Grad der Perfektion, so wird dennoch keiner den Maschinen „glauben“.
    Ich stelle ihnen jetzt mal ein einfaches Szenario, verbunden mit einer Frage:
    In der (nicht näher datierten) Zukunft, gibt es Roboter, die auf einem annähernd menschlichem Niveau kommunizieren können. Diese haben nicht die Gestalt von kalten eckigen Automaten, sondern ihre "Körper" sind derart designt, dass die Menschen unterbewusst mit ihnen sympathisieren. Kleine Körper, Gesichter nach dem Kindchenschema, angenehme Stimme. Sie können Unterhaltungen auf einem erschreckend hohen Niveau führen, haben in winzigen Chips nahezu das komplette Weltwissen gespeichert, können sich selbst als autonome Existenz identifizieren und haben ein Verständnis von Mortalität und Endlichkeit.
    Nehmen wir für dieses Beispiel einen Roboter in Gestalt eines kleinen, etwa 5-Jahre alten Mädchens, geschaffen als künstlicher Spielkamerad für Kinder. Sie sind aus irgendeinem Grund, den sie sich selbst ausdenken dürfen, in die Situation geraten, eines dieser Maschinen zerstören zu müssen. Man gibt ihnen eine Brechstange in die Hand und befiehlt: Schlag's kaputt!
    Als sie dem Roboter entgegentreten, realisiert dieser sofort ihr Vorhaben und äußert den Wunsch, nicht zerstört zu werden. Das Gerät fällt auf seine künstlichen Knie und fleht herzerweichend darum, seine Existenz fortzuführen, Tränen künstlicher Flüssigkeit laufen über sein niedliches Gesicht. Es bettelt um andere Aufgaben, schlägt Mittel und Wege vor, seine Existenz weiterhin produktiv zu gestalten, nennt Alternativen zu seiner Vernichtung, äußert Bedauern ob der Zerstörung seiner mühsam aufgebauten Programmstrukturen.

    Bei all dem wissen sie natürlich die ganze Zeit, dass es sich hier um ein vollständig künstliches Gerät handelt. Ihr Befehl ist eindeutig.

    Schlagen sie das Gerät kaputt?
  9. #118

    Zitat von papo89 Beitrag anzeigen
    man sollte vor allem schauen von wem die Kritik kommt. Es kommt vor allem von der Konkurrenz um die 1 Milliarde. Das Geld wird so oder so in eins von 6 übriggebliebenen Projekten fliessen, also spielt das erst mal keine Rolle. Kritik kommt haupsächlich von der ETH Zürich, deren Projekt in direkter Konkurrenz mit diesem, von der ETH Lausanne (EPFL) entworfen wurde. Das wird hier natürlich nicht erwähnt. Und es geht hier auch nicht darum, übernatürliche Intelligenz zu schaffen, sondern einfach um ein primitives Modell unseres gehirns zu bauen. Finde ich sehr interessant.
    Wenn ein Artikel mit "Neuro-Forschung: Angst vor der allmächtigen Gehirn-Kopie" überschrieben ist, geht es primär nicht mal um die Kritik an dem aktuellen Projekt sondern wohl eher um Kritik an dem was folgen könnte wenn das Projekt erfolgreich beendet wurde. Also was passiert wenn in 10 jahren ein Buch "Die Gehirn-Simulation" in den Bibliotheken steht - dann ist die Computerentwicklung 10 Jahre weiter und es kann ein besseres Modell verwendet werden - und dann noch 10 oder 20 Jahre später bricht Panik aus oder so. Ich finde es immer interessant wenn über Forschung geschrieben wird, aber warum muss schon in der Überschrift Angst und Panik vor möglichen Erkenntnisen geschührt werden. Keine Technik ist ohne Risiken - die Frage ist nur wie geht man dann mit den Risiken um? Aber erstmal Forschung verbieten damit wir uns nicht mit den Risiken rumschlagen müssen ist kein guter Weg weil wir dann nie die Chancen nutzen können. Die Zeit des Mittelalters sollte vorbei sein.
  10. #119

    Zitat von P97813 Beitrag anzeigen
    Genau das ist aber Materialismus. Und wenn man dies konsequent zu Ende denkt, kommt man eben zu dem Schluss, dass das Bewusstsein eigentlich gar nicht existieren oder noch weiter gar unser Verhalten beeinflussen dürfte.
    Nein, das ist gerade konsequent nicht zu Ende gedacht.
    Die Begründung ist, dass der Materialismus logisch nicht funktioniert und damit der Dualismus vorzuziehen ist.
    Nein, der Dualismus funktioniert nicht und hat nie funktioniert. Er wird bestenfalls noch von traditionalistischen Theologen vertreten. Die Philosophie hat ihn längst begraben.
    Und ja, ich glaube auch daran eine Seele zu besitzen bzw. das Geist und Materie getrennte Entitäten sind, weshalb eine Rechenmaschine oder irgendein anderes physikalisches Objekt auch niemals ein Bewusstsein besitzen wird.
    Dazu müsste man erst mal klären, was unter "Seele" und "Bewusstsein" zu verstehen ist. Fakt ist, dass Geist nicht ohne die Materie des Hirns existiert und funktioniert. Ein rudimentäres Bewusstsein haben auch die höheren Tiere.

    Mit "Materie" ist im Materialismus nicht die schwere, träge und mechanistische Materie gemeint, sondern die strukturelle Materie und ihre chemischen und elektrischen Verhaltensformen mit Transformationen und Signalübertragungen. Es ist ein kybernetischer Materialismus zwischen Physik und Biologie/Psychologie. Das Problem von Körper und Geist ist zuerst ein sprachliches Problem, weil Begriffe verschiedener Abstraktions- oder Bedeutungsebenen verwechselt und vermischt werden.

    Ein Gleitschirmflieger oder ein Ballonfahrer kann das Gefühl der Schwerelosigkeit, der Freiheit und der Glückseligkeit empfinden, aber ohne den physikalischen Auftrieb in der Luft fällt er wie ein Stein zu Boden.