KInote #09: Was ist unser Bewusstsein? Über Geist in Mensch und Maschine – Philosoph Tobias Schlicht sode

00:00:15: Geist, Kognition

00:00:17: und KI.

00:00:18: Was ist unser Bewusstsein?

00:00:20: Heute das Thema bei Keynote dem Wissenschaftspodcast der Forschungsgruppe Kiwit gefördert vom Bundesministerium für Forschung, Technologie und Raumfahrt.

00:00:31: zu Gast Tobias Schlicht Inhaber der Lichtenberg-Professur für die Philosophie des Bewusstseins und der Kognizion an der Ruhruniversität Bochum.

00:00:40: mit Tobias Schlicht

00:00:41: spricht

00:00:42: Marcel Schütz Professor für Organisation von der Forschungsgruppe KIVIT.

00:00:47: Wir wünschen gute Unterhaltung und spannende Erkenntnisse!

00:01:15: Eine Einführung von Jonathan Wilhelm.

00:01:51: Wir schreiben ihm Bewusstsein, Absichten und Verantwortung zu.

00:01:58: Doch was braucht es damit wir einem Wesenbewusstsein zuschreiben?

00:02:02: Reicht es wenn ein System überzeugend mit uns spricht auf seine Umwelt reagiert oder sogar behauptet

00:02:08: Gefühle

00:02:09: und eigene Gedanken zu haben?

00:02:11: Diese Fragen sind längst nicht mehr nur Stoff für Science Fiction!

00:02:15: Wir sprechen häufig darüber was künstliche Intelligenz zu leisten im Stande ist wie sie eingesetzt wird und welche Folgen daraus entstehen.

00:02:23: Mindestanz ebenso wichtig ist aber die Frage, was wir diesen System eigentlich zuschreiben.

00:02:29: Denken Sie?

00:02:29: Verstehen sie?

00:02:31: Erleben Sie etwas oder erzeugen Sie lediglich den Eindruck davon?

00:02:35: Zu einer Zeit in der Sprachmodelle immer überzeugender kommunizieren und technische Systeme zunehmend in soziale und wissenschaftliche Zusammenhänge eingebunden sind gewinnen diese Fragen an Träglichkeit!

00:02:47: Mit alledem zwischen Philosophie, Kognitionswissenschaft und künstlicher Intelligenz befasst sich unser heutiger Gast.

00:02:55: Tobias Schlicht studierte Philosophie, Germanistik und neuere Geschichte an der Universität zu Köln – und wurde dort im Jahr zwei Tausendfünf promoviert.

00:03:04: In der Folge leitete er unter anderem eine Forschungsgruppe zum Thema Neurophilosophie am Zentrum für integrative Neurowissenschaften der Universitätstypigen.

00:03:14: Seit Zweitausendvierzehn hatte er eine Lichtenberg-Professur finanziert von der Volkswagensstiftung an der Ruheuniversität Bochum Inne und forscht zur Philosophie des Bewusstseins unter Kognition, also den geistigen Prozessen mit denen wir unsere Umwelt wahrnehmen, Informationen verarbeiten, erinnern und Probleme lösen.

00:03:33: Dabei verbindet er philosophische Überlegungen mit Erkenntnissen aus

00:03:36: Psychologie,

00:03:37: Neurowissenschaften und Kognitionsforschung.

00:03:41: In seinen Veröffentlichungen beschäftigt er sich unter anderem mit den sozialen Dimensionen der Kognition, mentalen Repräsentationen und Theorien des Bewusstseins.

00:03:51: Zuletzt hat er sich die Frage zugewandt nach welchen Kriterien wir Bewusstsein bei künstlicher Intelligenz beurteilen können?

00:03:58: Und ob wir es beim Maschinen tatsächlich feststellen oder ihnen letztlich nur zuschreiben?

00:04:03: Hierzu arbeitet er aktuell als Co-Autor an einer Philosophie der KI.

00:04:08: Wir möchten heute mit ihm darüber sprechen Was das Bewusstsein überhaupt ist?

00:04:12: Weshalb es sich wissenschaftlich so schwer fassen lässt und ob Maschinen eines Tages mehr sein könnten als Systeme, die menschliches Denken und Sprechen überzeugend nachahmen.

00:04:44: Neulich hörte ich einmal wieder die fast schon aus der Zeit gefallene Formulierung etwas sei einem zu bewusst sein gelangt.

00:04:51: Bewusstsein ist ein Alltagsbegriff, dass Bewusstschein taucht in unserer Rede allgegenwärtig auf.

00:04:58: einerseits das selbstverständlichste der Welt, andererseits aber vielleicht auch die komplizierteste Sache der Welt.

00:05:06: Gewöhnlich und mystifiziert sowohl als auch.

00:05:10: Tobias Schlicht ist uns bewusst was wir da sagen wenn wir vom Bewusstsein sprechen?

00:05:17: Ja schwierige Frage.

00:05:19: vielen Dank für die Anladung.

00:05:20: erst einmal wahrscheinlich gibt es ein einen Unterschied zwischen den philosophischen und wissenschaftlichen Begriffen von Bewusstsein.

00:05:30: Und dem Alltagsverständnis von Bewusstein, so wie wir zum Beispiel sagen ein Patient ist bei Bewusstseins.

00:05:37: Dann meinen wir in der Regel sowas wie Wachsein und die Möglichkeit auf Reize zu reagieren.

00:05:44: aber im wissenschaftlichem und philosophischem Gebrauch gehört dazu noch etwas anderes also andere Konnotationen eine bestimmte Form von Subjektivität das phänomenale Bewusstsein, das subjektive Erleben zum Beispiel von Geschmack oder Gerüchen.

00:06:01: Das Gefühl einen stechenden Zahnschmerz zu haben und Hunger

00:06:05: usw.,

00:06:06: wo eben quasi nicht klar ist ob dieses phänominelle Bewusstseins von dem in der Regel im philosophischen Debatten heute die Rede ist ein Begriff ist den auch der Mann und die Frau auf der Straße quasi intuitiv verständlich finden.

00:06:23: Insofern gibt es da vielleicht Unterschiede und Begriff Bewusstsein.

00:06:27: Es ist eigentlich ein Entschillender, der so viele Phänomene unter sich versammelt das nicht immer klar ist dass alle die sich in Debatten beteiligen von derselben Sache reden.

00:06:39: Was fasziniert uns denn eigentlich so am Bewusstseinen?

00:06:41: Ist es gerade die wenn sie die etwas leicht widersinnig anmutende Formulierung erlauben wahrgenommene Unzugänglichkeit dessen, was wir unter Bewusstsein uns vorstellen für Bewusstseinhalten als Bewusstschein auch wissenschaftlich theoretisieren oder narrativieren im Alltagsgebrauch.

00:07:02: Fast mag man ja sagen das Bewusst sein ist ein Stück weit Magie Geheimnis und Verborgennis auch oder?

00:07:10: Naja vielleicht hängt es damit zusammen wie quasi die Naturwissenschaften vor allem in den zwanzigten Jahrhundert eben nach und nach vielleicht zuvor vermeintlich mysteriöse Phaeromene aufklären konnten und eben in ein Weltbild binden, dass durch einen Materialismus, einen Reduktionismus vielleicht sogar vor allen Dingen ein Objektivismus gekennzeichnet ist.

00:07:34: Und insofern dieser wissenschaftliche Fortschrittsklaube am Bewusstsein oder auch am Selbstbewusstsein mit seiner Subjektivität an eine Grenze gerät die es schwierig macht, zu verstehen wie eine subjektive Perspektive auf die Welt objektiv eingefallen werden kann.

00:07:55: Insofern scheint dies ein Merkmal zu sein dass nur den Bewusstsein charakteristisch ist während wir nennlich zum Beispiel andere kognitive oder mentale Vorgänge ja auch unbewusst ausführen können.

00:08:09: und das scheint eben das ganze zu einer Art Mysterium zu machen Wie es denn sein kann?

00:08:14: Das Subjektive-Perspektiven aus einer objektiven Natur hervorgehen oder in einen objektivem Natur existieren und auch entsprechend durch naturwissenschaftliche Untersuchungen verständlicher gemacht werden könnten.

00:08:29: Denn es ist ja auf der anderen Seite so, dass auch wenn sich diese Frage vielleicht mysteriös anhört oder dieses Problem mysteriöse erscheint, ist doch bewusst dann auf der andern Seite etwas das uns jedem einzelnen ganz direkt zugänglich ist.

00:08:42: Das ist das vertrauteste eigentlich, Fuß wie tut.

00:08:46: oder wenn ich ein Glas Wein genieße, dann habe ich einen Geschmackserlebnis das mir direkt zugänglich ist und insofern ist man das sofort bewusst.

00:08:54: Insofern is es ja nicht so mysteriöses.

00:08:57: aber angesichts vielleicht oder vor dem Hintergrund eines objektiven physikalistischen Weltbildes ist es vielleicht reizelhaft wie sich das in die Natur einfügt.

00:09:07: Ich finde das Beispiel Mit dem Weingenuss ganz passend, man sagt der Geschmäcker sind verschieden oder über Geschmack lässt sich nicht streiten.

00:09:15: Oder eben doch streiten.

00:09:17: beides ist möglicherweise wahr.

00:09:19: Liegt es dann in der Natur der Sache selbst dass viele Menschen bewusst sein immer auch etwas unterschiedlich sich vorstellen?

00:09:26: Andere Zugänge andere Eindrücke Gefühle im Hinblick darauf?

00:09:29: denn eigentlich ist das selbst doch dann auch Ausdruck unserer Bewusstseins Stufe, die Menschen in ihrer Evolution erlangt haben.

00:09:37: Dass sie keine Ruhe mehr finden sich über ihr Dasein und die Welt, in der Sie leben viele Gedanken zu machen, zu reflektieren, zu fragen was gestern da, was morgen sein wird?

00:09:47: Zu wissen auch dass sie sterben müssen und obendrein noch selbst damit sich beschäftigen, ob mit dem Sterben alles ein Ende hat.

00:09:56: Ja großfragen.

00:09:58: zum einen ist natürlich so das unsere bewussten Erlebnisse, sagen wir mal von Farben und Geschmäckern.

00:10:04: Diese Sinneserlebnisse die wir haben aufgrund unserer verschiedenen Sinnesfähigkeiten schwer in Worte zu fassen sind.

00:10:11: Wenn wir beim Weinbeispiel bleiben gibt es natürlich Weinkenner, Weinexperten die ein Geschmack eines Weines sehr reichhaltig beschreiben können aber das ist nicht jeder Manns Sache.

00:10:23: Man schmeckt nicht immer diese Nuance heraus oder kann sie angemessen beschreiben.

00:10:28: Insofern ist da eigentlich eine Art von Kluft zu überwenden zwischen dem, was wir eigentlich erleben und wie wir es quasi versuchen begrifflich zu fassen.

00:10:36: Und insofern isst es immer etwas unklar und leicht auch schwierig festzustellen ob wir jeweils das gleiche Erlebnis haben wenn wir etwas Grünes sehen, etwas Rotes sehen usw.

00:10:49: Mal ganz abgesehen von wegen Farbplintheit und solchen Phänomenen.

00:10:53: Also diese Dinge sind nicht so einfach intersubjektiv zu entscheiden, sozusagen.

00:11:00: Auf der anderen Seite ist es natürlich noch mal schwierig wenn wir das menschliche Bewusstsein verlassen dass ja doch auch sehr sprachlich überformt ist und ins Tierreich uns begeben und uns fragen er hat denn der Hund und die Katze das gleiche visuelle Erlebnis wie wir?

00:11:19: Wenn er durch die Wiese läuft oder sehen die da etwas ganz anderes?

00:11:23: Und das sind natürlich Fragen, die sich dann weiter bis zu ganz simplen Organismen stellen.

00:11:30: Wo hört eigentlich Bewusstsein auf?

00:11:32: Wir gehen oft mit der Fragestellung von unserem eigenen Fall an die Sache heran weil wir mit unseren Bewusstseinen eben vertraut sind.

00:11:39: aber dass menschlich bewusst sein könnte ja ein ganz eigenartiger Sonderfall sein in großen tierreich und reich der Organism so dass wir eine Kuriosität haben mit der Sprache auch und dem Selbstbewusstsein, dass vielen anderen Wesen vielleicht abgeht ohne das sie so zugleich kein Bewusstsein hätten.

00:11:58: Das Bewusstsein der Fledermaus zum Beispiel könnte ganz anders sein als das jenige Besondens-und meiner Frau.

00:12:05: Insofern ist es nicht ganz klar wie wir diese Phänomene sortieren sollen und insofern gibt es auch Debatten darüber wie weit denn jetzt bewusstsein in der Natur verbreitet ist?

00:12:15: Und da gibt es ja ein riesiges Spektrum von Positionen.

00:12:20: Ja, mir scheint die Diskussion häufig.

00:12:22: Sie haben es angedeutet sehr antwo-prozentlich zu laufen.

00:12:26: wir gehen fast intuitiv sehr spontan gefragt davon aus dass das Berufsein etwas ist was Menschen auszeichnet auch zur Definition menschliche Existenz ja nicht unwesentlich als eine ganz zentrale Eigenheit herangezogen wird.

00:12:41: aber letztlich hat die Frage, ob Bewusstseinsfähigkeit auch anderswo im Tierreich existiert mögliche ethische Konsequenzen, die ja auch diskutiert werden.

00:12:53: Natürlich!

00:12:53: Da geht es um das Tierwohl und darum wie wir quasi mit anderen Wesen umgehen... ob wir Ihnen quasi einen Personenstatus vielleicht schulden und in bestimmte Rechte zugestehen sollten oder einen moralischen Status zugestehnen sollten.

00:13:09: Das erstreckt sich aber auch natürlich über das zielreiche hinaus in künstliche Systeme, was ja gerade wildfach diskutiert wird angesichts des neuen KI-Hypes und der beeindruckenden Leistungen von neuen künstlichen Systemen die viele dann dazu bewegen wieder zu fragen müssen denn auch KI-Systeme Rechte haben oder sind das moralische Subjekte?

00:13:34: Oder Objekte und diese Fragen stellen sich natürlich in Bezug auf viele verschiedene Systeme, nicht nur im Bezug Auf andere Menschen.

00:13:43: Wenn wir noch einmal festhalten würden an dieser Stelle unseres Gespräches was das Bewusstsein ausmacht sie beschäftigen sich ja mit der Philosophie des Bewusstseins.

00:13:53: es gibt andere Wissenschaften die auch die Materie Bewusstsein, Gehirn, neurologische Phänomene diskutieren.

00:14:03: Wenn sie als Philosoph der sich mit dem Büros sein beschäftigt zu einer sagen wir annähernden tentativen Definition bewegen lassen würde was würden Sie sagen?

00:14:15: sind Aspekte Akzente die für eine Philosophie des Büros seins vordrangig sind?

00:14:23: Naja es gibt natürlich viele Versuche, auch historische Versuche solche Unterscheidungen zu treffen oder Aspekte hervorzuheben.

00:14:32: Ich würde mit dem zentralen oder für mich zentralen Aspekt der Subjektivität beginnen und denen ins Zentrum stellen so dass wir wenn wir vom Bewusstsein sprechen von einer subjektiven Erfahrung oder einem subjektive Erleben sprechen das wenn man es mit einer Floskelung schreiben will die auf Thomas Nagel zurück geht sodass es für uns immer irgendwie ist dieser oder jener Organismus zu sein, oder diese oder jene Erfahrung zu haben.

00:14:58: Es ist für uns irgendwie ein Zahnschmerz zu erleben und es ist für Uns irgendwie Freude über eine gute Note zu erlebten zum Beispiel.

00:15:07: aber Für uns Ist scheint es auch damit verbunden zu Seinen dass sich quasi mit dieser Subjektivität alle unsere bewussten Erlebnisse auch als unsere Präsentieren.

00:15:18: das heißt wir müssen gar nicht fragen Wer denn hungrig ist wenn wir Hunger verspülen?

00:15:23: Ah, da ist ein Hunger.

00:15:24: Wem mag der wohl gehören?

00:15:25: Das sind also in ganz intim direkt zugängliche mit uns oder für uns verbundene oder präsente Erlebnisse.

00:15:33: das scheint mir doch entgegen alle anderen kognitiven Phänomene ein ja ein charakteristisches Merkmal des Bewusstseins zu sein.

00:15:41: was dann darauf noch fußt zum Beispiel in Form von reflexiven bewusstseinsformen oder autobiografischem Selbstbewusstsein vielleicht teilweise genügend menschliche Formen von Bewusstsein, aber auch komplexere Formen die dann noch verschiedene Gedächtnisformen implizieren und so weiter.

00:16:03: So dass ich zunächst einmal auf dieses Basale im Subjektive erleben mich fokussieren würde ob dann andere kognitive Funktionen wie zum Beispiel Aufmerksamkeit oder andere Szenome wie der Zugang zu Informationen die von David Chambers als sogenannte leichte Probleme des Bewusstseins beschrieben werden, weil wir dafür vielleicht kognitionswissenschaftliche Forschungsprogramme haben um diese zu erklären.

00:16:30: Ob die dann quasi auch zum Kern des Bewussteins gehören?

00:16:34: Das sind vielleicht dann kontroverse Fragen.

00:16:36: aber die Subjektivität oder subjektive Erleben das scheint mir doch im Vordergrund zu stehen.

00:16:43: Mit der Subjektivity im menschlichen Bewusstsein herausragenden Eigenschaft eines Phänomens, das wir jetzt beschreiben könnte man ja auch so etwas wie Spontanität, Intentionalität, implizite Strukturen verbinden oder assoziieren viel mehr und damit hätten wir eine bislang zumindest wesentliche Unterscheidung zur Maschine.

00:17:09: In Form der Spontанität?

00:17:12: In einer sagen wir nicht programmförmig vorhersehbar organisierbaren, automatisierbaren Struktur.

00:17:20: Das offenbar scheint jedenfalls unser Wahrnehmung nach das Bewusstsein dass uns auszeichnet eben nicht zu sein.

00:17:28: Jedenfalls nicht in einer programmförmigen Nachabfolge nach bestimmten Regelstrukturen verlaufenden planbaren Art und Weise die wir ja ganz charakteristisch mit maschinellen System verbinden.

00:17:42: Ja glaub hier ist dann eben die Streitfrage ob Bewusstsein dann eben etwas ganz grundlegend anderes ist als Kognition und ob es daher auch eines ganz anderen Erklärungsansatzes bedarf, als zur Erklärung kognitiver Phänomene.

00:17:59: Weil ja doch in Bezug auf Kognation allgemein das Computermodell des Geistes sozusagen vorherrscht und behauptet so zu sagen dass man Kognitions- als die Berechnungen von Repräsentationen ob sie jetzt symbolhaft oder sub-symbolisch sind, erklären können will.

00:18:21: Und da müsste quasi auch die bewusste Erfahrung eine Form von Berechnung sein, die man in Form eines Algorithmus irgendwie fassen kann.

00:18:30: Das sind glaube ich städtige Fragen sofern quasi seit Beginn des Computermodells, des Geistes wie Frage im Raum steht, ob denn Bewusstsein mit Hilfe dieses Modells erfasst werden kann?

00:18:43: Ob wir uns dann Maschinen abhängig davon, dass wir als Maschine definieren und grundlegend unterscheiden.

00:18:51: Insofern wir Spontanität aufweisen hängt auch davon ob wir jetzt spontanität im Aufgeladenen kantischen Sinne als die Fähigkeit etwas selbst eine Kausalkette selbst in Gang zu setzen.

00:19:04: In sofern wir dann frei sind auffassen.

00:19:07: das sind dann nochmal andere Fragen weil nicht immer ganz klar ist was jeweils gemeint ist mit sowas wie Spontaneität.

00:19:15: Wenn es Akteurschaft ist, dann gibt es natürlich gerade aktuelle Debatten darüber ob eben die neuen KI-Systeme Agenten sind oder Akteure sind.

00:19:26: Die handeln können.

00:19:27: und das Handeln können wäre ja eine Form von Spontanität insofern man eine Absicht umsetzt In einer Handlung sei es eine verbale Handlung oder eine motorische Handlung.

00:19:39: Und das sind natürlich noch knifflige Fragen wo noch nicht ganz klar ist ob denn KI was sie dann vielleicht als Maschine bezeichnen, diese Bedingungen erfüllt im Handlohn zu realisieren.

00:19:54: Wir gehen gleich noch weiter ein auf das Thema der KI in den Blick auf Bewusstsein und Kognitionen.

00:20:01: Und mit Kognitions, Sie haben es eben angesprochen ist eine mögliche Unterscheidung oder Ergänzung jetzt in unser Gespräch getreten.

00:20:09: Die verhalten sich eigentlich bewusst sein und Kognition zueinander, und man kommt gar nicht umhin – auch der Intelligenzbegriff drängt sich förmlich auf wenn man die Kognitionsspiel bringt!

00:20:21: Aber wie kommt das eigentlich?

00:20:23: Kognison und Bewusstsein?

00:20:24: In einem alltäglichen Zugang?

00:20:26: jetzt würde man nicht so nah vermuten wie Kognision und Intelligenze, dennoch haben wir es nicht unbedingt mit demselben zu

00:20:33: tun.".

00:20:35: Ja, das sind schwierige Unterscheidungen.

00:20:38: Weil die Begriffe eben auch nicht sehr scharf verwendet werden können angesichts der Tatsache dass die Kognitionswissenschaft eben ein interdisziplinäres Unterfangen ist wo jeder Disziplin sei es die Psychologie oder die Nordowissenschaft oder die Computerwissenschaft unterschiedliche Fragestellung haben und vielleicht ähnliche oder die gleichen Phänomene unter verschiedenen Aspekten unter die Lupe nehmen.

00:21:06: Insofern ist es oft erst einmal schwierig, wenn diese Disziplinen miteinander sprechen zu klären ob sie von den gleichen Bedeutungen ausgehen, wenn Sie Begriffe wie Bewusstsein, Intelligenz und Kognition verwenden.

00:21:22: Intelligenz ist vielleicht dabei noch der schwammigste Begriff.

00:21:27: Insofern ist für Bewusstsein, wie ich eben versucht habe auszuführen eine bestimmte Einigung auf einen bestimmten Aspekt gibt.

00:21:34: Das phänomenale Bewusstsein das nicht von allen gleich akzeptiert wird aber doch sehr verbreitet quasi Anwendung findet.

00:21:42: Intelligenz scheint mir zumindest nicht etwas zu sein dass wir einem System in drin sich zugestehen sondern dass wir von außen beschreibend attestieren so wie wir quasi an guten Geschmack attestierten oder Eine bestimmte Einstellung.

00:21:57: Es spricht nichts dagegen, wenn wir sagen Flüsse sind intelligent weil sie abfließen und sich nicht anstrengen müssen sozusagen das ist eigentlich eine intelligente Sache aber es natürlich nicht wirklich ernst gemeint.

00:22:08: Aber wir können das dann auch nicht wirklich unterscheiden von einer Form von Intelligenz die quasi real wäre oder substanzieller wäre.

00:22:17: Kognition ist dagegen schon etwas Enger gefasst, insofern es hierbei um Prozesse der Informationsverarbeitung geht.

00:22:26: Bei denen quasi Informationen aufgenommen und dann in unterschiedlicher Weise für problemlöse Strategien verwendet werden, gespeichert werden, abgerufen werden usw.

00:22:38: Also diese Engführung von Kognitionen mit Informations-Verarbeitungen das scheint mir doch auch ein sehr weit verpleiteter Bedeutungsaspekt zu sein dann das Bewusstsein in einer Form von Informationsverarbeitung aufgeht.

00:22:55: Ob man quasi die Subjektivität des Erlebens auch als Kognition, als Informations- verarbeitung und Berechnungen quasi von Information erklären kann.

00:23:06: Und da streiten sich wahrscheinlich die Geister wenn die eine Gruppe behauptet bewusst sein geht darüber hinaus und ist davon verschieden gerade weil wir wahrscheinlich viele kognitive Fähigkeiten auch unbewusst ausüben können oder auch unbewusste, kognitive Prozesse beobachten können.

00:23:24: Die sich im Verhalten niederschlagen während eben Bewusstsein vielleicht noch hinzukommt oder etwas anderes ist.

00:23:32: und die anderen sagen nein wenn wir Zugriff auf Informationen haben und diese angemessen verarbeiten dann ist das schon eine Erklärung von Bewusstsein.

00:23:42: also da gibt es verschiedene Lager.

00:23:44: aber Die Engführung von Kognition mit Informationsverarbeitungen im Computermodell des Geistes allgemein scheint mir eine sehr verpleitetenahme zu sein.

00:23:55: Sie sprachen es an im Computermodell des Geistes.

00:23:58: Eigentlich haben wir einen weiteren Begriff, den wir erklärungsbedürftig finden können.

00:24:03: ist der Geist so etwas wie die generalisierte Kategorie all dessen was wir jetzt gerade diskutiert haben gewissermaßen das Übergreifende von Bewusstsein und Kognition denken möglicherweise auch Intelligenz?

00:24:17: Ja ich glaube es ist nicht mehr.

00:24:18: also dieser Begriff Geist ist natürlich als Substantiv immer wieder konnotiert mit einer Art Ding die dann noch hinzukommt oder die es dann noch gibt, das denkende Ding bei DK zum Beispiel.

00:24:29: Die denkende Sache.

00:24:30: Das soll jetzt nicht gemeint sein – ich glaube, es ist nicht mehr als ein Begriff der verschiedene geistige Fähigkeiten unter sich versammelt und das ist natürlich auch traditionell als Philosophie des Geistes oder Phänomenologie des Geisters mit quasi traditionell mitgeschleppt worden aber nicht so aufgeladen wie es mal von zwei, dreihundert Jahren waren.

00:24:55: Ja der Begriff des Geistes bringt ja in einer zumindest alltäglichen Wahrnehmung eine ganz außerordentliche Aufladung mit sich.

00:25:04: also er hat etwas Erhebenes, er hat was das mit einer erhöhten Intelligenz assoziiert wird und er hat auch etwas tragendes fast feierliches könnte man sagen.

00:25:16: es ist am Ende auch eine kulturgeschichtliche Aufladungen

00:25:21: Ja, sicher.

00:25:21: Und natürlich gibt es damit auch verbunden den Begriff der Seele noch, die er dann in theologische Sphären überleitet, die nicht immer getrennt voneinander wurden.

00:25:31: Bei Descartes findet man natürlich die Diskussion des Geistes oder des Denkenden ich, die dann eingebettet ist oder zur Rechtfertigung noch bestimmt der Gottesbeweisebedarf, die wir heutzutage nicht mehr führen würden oder die wir davon zumindest trennen würden.

00:25:49: Das sind alles Dimensionen, die da mitschwingen und deshalb wird der Begriff des Geistes im Großen und Ganzen auch vermieden in Debatten über Bewusstsein und Kognition.

00:25:59: Sodass man hofft dass wenn man auf dem Zuge einer größeren Spezialisierung dann immer von bestimmten Gedächtnisformen oder bestimmten Formen des Lernens spricht oder bestimmte Formen das Wahrnehmens- und Erlebens

00:26:11: usw.,

00:26:12: sodass man konkreter wird wovon man spricht statt jetzt einfach vom Geist zu sprechen.

00:26:18: Wir haben jetzt über Phänomene diskutiert, die für die allermeisten etwas invisibles, latentes vielleicht eben auch verborgenes, vielleicht eben geheimnisvoll unzugängliches mystifiziertes Beinhalten jedenfalls erklärungsbedürftig in ihrer philosophischen und naturwissenschaftlichen Geltung und Definition.

00:26:41: Wie sieht es eigentlich mit dem Körper aus, wenn wir über Körperlichkeit nachdenken?

00:26:47: Wenn wir über körperliche Strukturen sprechen?

00:26:50: und vielleicht auch schon ein leichter Übergang in die Thematik der KI.

00:26:55: Welche Bedeutung hat der Körper aus der Sicht einer Philosophie des Geistes und der Kognition?

00:27:03: Ich glaube, der Körper hat eine sehr große Bedeitung zumal auch phenomenologische Philosophen wie Hussle, vor allem Meloponty auf die besondere Rolle des Körpers auch für die Wahrnehmung hingewiesen haben.

00:27:17: Die dann später in den letzten dreißig Jahren von den sogenannten Enaktivisten wieder furchtbar gemacht wurde.

00:27:26: Insofern wird die These vertreten das geistige Fähigkeiten oder kognitive Fähigkeit immer auch verkörpert sind und wenn sie verkörpert sind, dann sind sie auch de facto in eine Situation eingebettet.

00:27:40: Wir befinden uns nicht in einem Vakuum, sondern wir sind mit einem Gehirn ausgestattet das sich an dem Kopf befindet und auf einem Körper befindet der sich in einer Umgebung aktiv zurechtfinden kann und aktiv auch auf diese Umgebungen einwirken kann.

00:27:56: Diese Aspekte werden als sehr bedeutsam empfunden so dass man wenn man den Körper ignoriert auch kognitive Fähigkeiten nicht wird erklären können.

00:28:06: Man muss die Dynamik zwischen Gehirnaktivitäten, der körperlichen Ausstattung des jeweils verschiedenen Organismus und die Umgebung mit seinen Facetten in den Blick nehmen um Kognition verständlich zu machen.

00:28:21: Das scheint mir doch eine sehr auch komizenzgestützte These zu sein weil wir keine unverkörperten oder körperlosen Geister kennen.

00:28:33: Auch wenn das vielleicht bei Descartes so scheint, dass er sagt, er ist nicht wesentlich ein Körper.

00:28:39: Aber er tut zugleich die These das natürlich Körper und Geist immer eine Einheit bilden im Menschen.

00:28:45: Insofern kann man da Zifferenzierungen finden, die dann doch wieder eine Verkörperung nahelegen auch wenn sie bei Descard kontingent erscheint.

00:28:55: aber insofern beim Melopointie ist eben ein schönes Argument dafür zu finden, der Begriff des Körpers auch ein Mittler sein kann zwischen Geist und Welt, insofern der Körper als aktiv erlebender eine spontane Seite hat.

00:29:15: Und so insoferen etwas ist das aber als Objekt auch im In-der-Welt existiert und sozusagen mit seiner Unterscheidung zwischen Körper und Leib die Subjektivität des Körpers, die zugleich gegeben dazu prässtiniert, zwischen dem Geist und der Welt zu vermitteln.

00:29:36: Und das wird auch von gegenwärtigen Phänomenologen wie zum Beispiel Thomas Fuchs stark gemacht, der sagt so ungefähr paraphrasierend ohne Körper kein Geist.

00:29:47: Damit sprechen wir von Umwelterfahrung, von einer Schnittstelle die unsere Bewusstseinsfähigkeit, der sie offenbar bedarf.

00:29:56: Wir haben als Menschen und auch als Tiere Augen, wir haben Ohren Wir haben einen Bewegungsapparat, eine Motorik und damit auch Gelegenheit, Spontanität nach Anforderungen die sich uns stellen in unserer Existenz auszuleben.

00:30:13: Also auch zu überleben vor allen Dingen und sich zurechtzufinden in einer Welt.

00:30:18: Eine mögliche Herausforderung könnte ja die Besteibung der Sprachmodelle Die jetzt entwickelt sind Und der künftigen Karrientwicklung bedeuten.

00:30:28: Nach wie vor dieser Geist, wenn er denn so akzeptiert werden kann kommt aus der Maschine.

00:30:35: Die Maschine ist statisch gebunden programmiert jedenfalls auch mit modernster Robotik nicht in einer menschlicher oder tierischer Beweglichkeitsspontanitätssituationsgerechtheit.

00:30:50: aus formulierten Weise Wie könnte man sich denn die Diskussion um die Körperlichkeit und die Bedeutung des Körpers im Hinblick auf die Entwicklungen jetzt der generativen künstlichen Intelligenz aber auch edweigen Weiterentwicklungen vorstellen?

00:31:08: Ja, die Debatten sind zum einen etwas unterhaltsam.

00:31:13: Aber auch etwas irritierend insofern sie eigentlich Fehler auch teilweise wiederholen, die schon in den Achtzigern diskutiert wurden im Bezug auf die symbolische KI mit dem Argument des chinesischen Zimmers wo diskutiert wurde, ob denn jetzt der Geist ein Programm sei und das Ablaufen eines Computerprogramms hinreichend sei für Geist.

00:31:38: Das wurde gestritten und dann wurde gesagt ja man könne doch aber einen Computer auf einen Roboterkopf setzen und den mit sensorischen Fähigkeiten ausstatten und den Möglichkeiten sich im Raum zu bewegen und auf die Umwelt einzuwirken.

00:31:54: Sei das nicht eine mit der Welt verbundene künstliche Intelligenz.

00:32:00: Und das wird jetzt gerade wieder neu diskutiert und mit anderen Vorzeichen, weil eben die neuen KI-Systeme natürlich anders funktionieren.

00:32:08: Es gibt keine zentrale Einheit, die das Ganze regelt.

00:32:12: insofern ist dann das chinesische Zimmerargument dass so viel diskutiert wurde hier eigentlich irrelevant.

00:32:19: aber nicht sehr zu trotz stellen sich die gleichen Diskussionen und es mutet etwas unterhaltsam an, dass eben versucht wird angesichts der beeindruckenden Leistungen dieser Sprachmodelle jetzt zu versuchen, denen kognitive Fähigkeiten zuzusprechen oder die Begriffe für Kognitive-Fähigkeiten so zu engenieren und zu verändern dass sie darunter fallen.

00:32:47: Ein Beispiel des Begriffes Wissens wird seit Platon mit spätestens vielfach diskutiert ist Wissen gerechtfertigte wahre Meinung.

00:32:56: Da haben die Philosophen, in zwei tausend Jahre lang sich daran abgearbeitet und jetzt kommt dann dieses Sprachmodell daher und wird diskutiert näher.

00:33:05: Sie fühlen zwar nicht alle Bedingungen aber wir möchten doch sagen dass sie einen Wissen von der Welt haben oder dass sie Sprache verstehen ein sprachliches Wissen haben

00:33:16: usw.,

00:33:17: wo quasi so eine Art Bewegung ist den Sprachmodellen alle möglichen kognitiven Fähigkeiten zuzusprechen, wobei man dann die Begriffe für die kognitivem Fähigkeit etwas verändern muss.

00:33:27: Das mag ja eine Strategie sein aber es ist vielleicht auch etwas voreilig weil gar nicht klar ist ob die Phänomene mit denen was wir hier zu tun haben die gleichen sind die wir bei Menschen vorfinden.

00:33:39: denn die Frage ist natürlich ob wir hier einer sehr leichten Illusion unterliegen und sehr beeindruckt sind von sprachlichen Outputs die natürlich menschlich sind, menschester Output den man vielleicht haben kann.

00:33:51: und dann wird gesagt ja die zeigen uns wie Sprach verstehen bei uns funktioniert.

00:33:59: Das ist nicht ganz klar weil gar nicht klar ist ob die Modelle wirklich Sprache verarbeiten oder Sprache verstehen oder wissen was sie da tun usw.

00:34:08: Also das sind teilweise sehr spontane Rückschlüsse die da gezogen werden die etwas zu leicht reflektiert werden müssten.

00:34:20: An dieser Stelle ein kurzer Programmhinweis in eigener Sache.

00:34:24: Keynote gibt es inzwischen seit einem Jahr, eine Reihe interessanter Wissenschaftlerinnen und Experten war bereits bei uns zu Gast.

00:34:31: Darunter der Hirnforscher- und KI-Pionier Christoph von der Malzburg die Meteorologin und Leiterin des Wetterteams zum ZDF Katja Horneffer der Raumfahrtforsche Hakan Kajal oder der Informatiker und Schriftsteller Michael Wildenheim.

00:34:46: Auch für die nächste Zeit sind viele spannende Gäste und Folgen geplant, darunter Specials mit lebhaften Diskussionen zu besonderen Themen.

00:34:54: Die sorgfältige Vorbereitung und Produktion bedeuten natürlich auch einiges an Arbeit und Zeit!

00:34:59: Wenn Ihnen Kino gefällt freuen wir uns deshalb sehr über Ihre Unterstützung.

00:35:03: Lassen Sie gerne einen Like da, abonnieren und folgen sie uns auf YouTube, Spotify und den weiteren Plattformen, auf denen Kino erscheint.

00:35:10: Teilen Sie unsere Folgen oder empfehlen Sie Kino einfach weiter?

00:35:14: Das hilft uns noch mehr Menschen zu erreichen und den Podcast weiterzuentwickeln, interdisziplinär ruhig und konzentriert.

00:35:22: Der etwas andere Ton unter dem KI-Podcasts.

00:35:25: Vielen Dank dafür!

00:35:26: Und nun weiter im Gespräch mit Tobias Schlicht.

00:35:33: Sie hatten es eben auch angesprochen dass diese Sprachmodelle mit Weltwissen gefüttert werden und das man argumentieren könnte je mehr Wissen ihnen eingebracht wird die Verknüpfungsleistung auch zu, fast will ich sagen, Synthetisieren also zu imitieren.

00:35:53: Aber in einem gerade wie es bislang natürlich nie erreicht worden ist, ist irgendwann dieser Imitationseffekt vielleicht dann doch soweit vorgeschritten das es uns immer schwerer fallen könnte?

00:36:05: Die Unterscheidung zu einem biologisch bedingten Bewusstsein wie wir es bis lang kannten überhaupt zu erkennen.

00:36:13: Naja, das geschieht ja teilweise schon auch wenn es vielleicht hier und da einfach Verkaufsstrategien sind.

00:36:20: Sie meinen vielleicht auch in der alltäglichen Wahrnehmung wir sind ja in der Wissenschaft beide tätig.

00:36:25: Wenn man sich dieser Technologie bedient ist es natürlich in einer sehr tiefen Analyse möglich dass man schon sehr beeindruckt ist wie weit die Assoziation gehen und auch tatsächlich mit der technologiestruktur entdeckende Erfolge erzielen kann, die einem fast zumindest ein ganz klein wenig vergessen lassen.

00:36:49: Dass man es eben doch auch nur mit einer Maschine wie man bislang sich einzudäden glaubt zu tun hat oder?

00:36:55: Es ist ja doch schon auch da eine beeindruckende Leistung wenn es um Wissensverarbeitung geht.

00:37:01: Die Leistungen sind sicherlich beeindruckend.

00:37:04: ich glaube die Formulierung dass wir es nun mit einer maschine zu tun haben trifft den Kern vielleicht nicht ganz, weil wir kann auch uns als biologische Maschinen beschreiben.

00:37:14: Ist gar kein Problem!

00:37:15: Der Punkt ist dass sie uns vielleicht auch zeigen... ...dass Sie mit Mustererkennung anhand von einer riesigen Menge von Daten.. ..mit den angemessenen Weisen der Berechnungen und zum Ziele der Mustererkennung bestimmte Vorhersagen treffen können die akkurat genug sind oder plausibel genug sind das wir sie glauben oder dass wir sie für hinreichend halten.

00:37:42: Die Problematik liegt mir, glaube ich, darin auch das wir schon bei bestimmten Internet-Plattformen in sozialen Medien oder diesen Empfehlungssystem wie bei Spotify oder bei Facebook oder bei Google, diese Verarbeitung von diesem riesigen Datenmengen und persönlichen Daten, Benutzerdaten uns zeigen, nicht so falsch stark, wenn man die ordentliche Datenmenge besitzt und eine Fähigkeit die Daten zueinander in Bezug zu setzen um Muster zu erkennen.

00:38:16: Dass man dann schon sehr gut vorhersagen kann was der oder diejenige glauben wird oder wählen wird oder tun wird in der nächsten Zeit Und dass diese Vorhersage von Menschen im Endeffekt als Befehle In der Umwelt quasi realisiert werden Wenn wir sagen, wir geben verschiedene Datenmengen Preis online in Form von Verhaltensweisen.

00:38:44: Klicks, Likes und so weiter können diese Maschinen eben berechnend vorhersagen was wir in der Zukunft tun würden oder wie wir auf bestimmte andere Inputs reagieren werden.

00:38:56: Und insofern kann man dann natürlich die Benutzerinnen entsprechend manipulieren und lenken.

00:39:02: und ich glaube hier liegt die größte Gefahr dass immer mehr persönliche Daten, eigentlich subjektive Daten auch zugänglich gemacht werden.

00:39:13: Teilweise naiv und bestimmten wenigen Kooperationen dann die Macht gegeben wird damit umzugehen diese zu verkaufen oder diese weiterzugeben Und dass diese Verarbeitung von den Daten eben zeigt das man anhand von verhaltensweisen neue Verhaltensweisen hinreichend gut vorhersagen kann vielleicht ohne die Black Box des Geistes zu schauen, weil das gar nicht nötig ist auf dieser Ebene.

00:39:39: Für uns ist der Behäberismus nur falsch, weil wir nicht die Power haben, die komputationale Power diese Daten zu berechnen und darin Muster zu erkennen.

00:39:49: aber dass es prinzipiell möglich ist scheinen mir dieses Maschinen zu zeigen.

00:39:53: Insofern ist da keine prinzipielle Schranke zwischen Geist- und Verhalten, die bebrückt werden müsste zum großen Teil wahrscheinlich im Verhaltensweisen.

00:40:05: auch die geistigen Absichten, Intentionen, Wünsche usw.

00:40:10: ablesen können wenn wir hinreichen viele Datenmengen haben und das haben diese Maschinen insofern kommen sie zu diesem beeindruckenden Leistung.

00:40:19: also aus der Quantität entsteht dann auch die Qualität die wir an der Stelle wahrnehmen als eine beeindruckende Leistung.

00:40:26: wie verhält es sich denn mit der möglichen Stanke der fehlenden Körperlichkeit.

00:40:32: Diese Diskussion wird ja nicht nur in der Philosophie geführt oder auch in sozialwissenschaftlichen Gebieten, die Soziologie befasst sich ja auch mit diesem Thema

00:40:43: vermehrt.

00:40:44: aber ich denke auch an naturwissenschaftliche Argumentationen oder aus der Ingenieurwissenschaft und aus der KI-Forschung selbst.

00:40:50: Der Einwand ist natürlich das Fehlen einer geeigneten und genügend hinreichend flexiblen perfektionierten Körperstruktur.

00:41:03: eben noch eine schranke Pliebe.

00:41:06: Ganz anders die Idee der Entwicklung der künstlichen Intelligenz zu körperlichen Strukturen, die sich schon in einer nicht wie wir das bislang kennen und auch eigentlich technologisch beeindruckenden aber doch etwas unbeholfenen Weise in dieser Roboter-Technologie präsentieren.

00:41:25: Robotikforscher verweisen jedenfalls regelmäßig darauf dass sie selbst auch nur begrenzt Fortschritte bislang erlangen konnten.

00:41:33: Es ist beeindruckend, was diese Entwicklungen schon hervorgebracht haben aber es ist oft sichtbar nicht das, was wir uns vorstellen unter einem Lebewesen, das sich frei bewegt und sich der Situation entsprechend anpasst.

00:41:48: Bleibt der Körper eine Herausforderung bei dieser Entwicklung?

00:41:53: Das kann ich mich so gut beurteilen weil ich kein Robotiker bin und die Technologie da nicht hinreichend verfolgen kann oder einschätzen kann.

00:42:03: Allerdings ist es natürlich so, dass schon Rodney Brooks Anfang der Neunziger eben sich dann von diesem symbolischen KI-Modell im Bezug auf Roboter und Robotik abwandte.

00:42:13: und dann flexible Roboter, die jetzt in dem Roombaar und anderen Münden sozusagen entwickelte, die gar nicht auf einer Repräsentation der Welt fußen sondern situativ bestimmten Gegebenheiten anzupassen, scheinen und dabei ganz flexibel umgehen.

00:42:33: Je nachdem wie man dann die Roboter ausstattet mit bestimmten sensorischen Fähigkeiten und motorischen Fährigkeiten ist es wahrscheinlich nur eine Frage der Zeit bis dann Sprachmodelle multimodal werden und in solchen künstlichen Systemen dann Anwendung finden, die dann auch Roboter sehr flexibel gestalten.

00:42:56: Jetzt gab es ja diese chinesischen Roboter, die dann den Malaton gelaufen sind und so weiter.

00:43:01: Da gibt's dann teilweise noch Hindernisse und eher unterhaltsame Phopasituationen aber prinzipiell ist man da schon auf dem Weg.

00:43:10: Das ist eine ganz andere Frage.

00:43:13: was mit diesem Verhalten verbunden ist.

00:43:16: Der weiß der Roboter, dass er in Marathon läuft.

00:43:18: Ist es den bewusst und so weiter?

00:43:19: Das sind auch Fragen die Endement-Effekt wahrscheinlich Robotiker nicht wirklich interessieren solange die Performance stimmt.

00:43:26: Wenn ich mir die Roboter von Boston Dynamics anschaue dann ist das wahrscheinlich relevanter, dass das Programm was dem Roboter gegeben wird und anhand dessen es lernt Der Art ist, dass der Roboter wieder aufstehen kann wenn er umgeschubst wird oder das er die Balance hält.

00:43:44: Wenn er tanzen soll oder eine Drehung vollziehen oder einen Backflip machen soll.

00:43:48: und ich glaube nicht, dass diese Robotiker damit auseinandersetzen ob der Robot hat an einem Bewusstsein hat.

00:43:55: Ich glaube das ist keine Frage die sie in den Vordergrund stellen.

00:43:59: Ob wir es dann so beurteilen weil es so aussieht Dass der Robotoer bewusst sein hat Das liegt dann wahrscheinlich eher im Auge des Betrachters.

00:44:08: Und so eine Vorstellung von den Entwicklungen künstlicher Intelligenz ist ja sehr stark auch kulturell, popkulturell geprägt.

00:44:16: die Science-Fiction Literatur der Film.

00:44:19: Auch die Auseinandersetzung mit der Frage wie menschliche Existenz gefährdet werden könnte da kann man entweder an außerirdische Denken oder eben ein Naturgewalten oder eben an künstliche Intelligenze die uns überlegen sich entwickeln könnte.

00:44:38: ist in ihrer Betrachtungsweise das auch ein Thema, dass wir natürlich bei der Steigerung der Qualität dieser Maschinen-, dieser maschinellen Entwicklungen durchaus in eine Lage gewarten ganz technik-evolutionär gedacht.

00:44:57: In der die Technologie sich eben soweit verbessert hat, dass sie uns tatsächlich auch kognitiv gefährlich werden kann?

00:45:06: Ja, das klingt immer so in diesen Debatten als ob die KI wie ein Tsunami auf uns zurollt und wir daran nichts ändern können.

00:45:16: Oder einen Schleichen der Klimawandel?

00:45:18: Das wäre natürlich ein anderes Szenario.

00:45:20: man kommt so langsam in die Geschichte hinein dass es immer schwieriger wird sich dem zu erwehren nicht plötzlich sondern schleichend Wie gegenwärtig.

00:45:29: vielleicht

00:45:29: ja der Vergleich ist vielleicht besser weil natürlich In beiden Fällen Es von an uns liegt zu handeln und zu reagieren, zu regulieren.

00:45:39: Zu begrenzen und Forschung insofern zu verlangsamen wenn sie uns über den Kopf wächst oder aus der Kontrolle gerät.

00:45:48: Und die derzeitigen großen KI Firmen scheinen mir nicht in der Lage überhaupt zu verstehen was da eigentlich passiert.

00:45:57: Sie sind von ihrem eigenen Erfolg überrollt und beeindruckt und wissen aber gar nicht so recht warum dieser Erfolg sich einstellt, warum Sprachmodelle so erfolgreich sind.

00:46:09: Insofern sie natürlich anders designt sind als wir und zum Beispiel Mechanismen eingebaut haben wie die Backpropagation der die keine Entsprechung im biologischen Gehirn finden.

00:46:23: insofern ist es klar dass diese Systeme anders lernen als wir das sie eben anders denken wenn man den Begriff des Denkens verwenden darf.

00:46:35: Und das müsste man erst verstehen und im Griff haben sozusagen, bevor man sie in die Wildnis hinauslässt.

00:46:44: Das scheint mir aber nicht der Fall zu sein, insofern ethische Debatten und auch politisch debatten immer fünf bis zehn Jahre hinterher hinken und auch nicht der Mut besteht gegen diese Macht etwas zu tun.

00:46:57: Da spielt natürlich Geld eine große Rolle.

00:47:02: Ob wir jetzt vor einer Singularität stehen, ist schwer einzuschätzen.

00:47:07: Weil natürlich nicht ganz klar getrennt werden kann was an den Aussagen der KI-Firmen Propaganda und Marketing sind und tatsächliche Wissenschaft.

00:47:19: Das ist wahrscheinlich für viele nicht klar zu unterscheiden und solange das nicht der Fall ist und dass auch nicht transparent gemacht wird, ist es schwer das zu bewerten finde ich.

00:47:29: aber der Regulationsbedarf scheint groß zu sein.

00:47:34: Marketing und Wissenschaft, sagten sie es ist ja auch beachtlich und möglicherweise auch kritisch.

00:47:40: bedenklich aber eine Folge dieser Entwicklung dass die Fortschritte die erzielt werden heute sich vor allen Dingen außerhalb der Universitären wissenschaftliche Strukturen bewegen.

00:47:53: Die KI Firmen forschen selbst haben Mittel und verfügbar Machung von Kapital dass auch in den sehr gut ausgestatteten Universitäten Nordamerikas nicht mehr typisch vorgehalten werden kann, also auch hier ja eine Entkopplung eigentlich vom wissenschaftlichen System.

00:48:13: Ja das ist insofern bedenklich weil natürlich eine starke Machtkonzentration in den Händen weniger einflussreicher reicher Männer liegt und das ist keine gute Situation.

00:48:27: Auf der anderen Seite werden natürlich von diesen Firmen auch mittlerweile Philosophen und Philosophinnen, aber auch andere Wissenschaftler natürlich angeheuert.

00:48:37: Was natürlich auch mit dem Nobelpreistegger Jof Hinton damals begann, der dann mittlerweile wieder abgedankt hat.

00:48:46: Aber das sind natürlich dann Vermischungen die zu Machtkonzentrationen führen, die dann das eigentliche Problem darstellen glaube ich in der sozialen Situation, Wissenschaft die ja kein Vakuum darstellt sondern in denen es verschiedene Kräfte gibt und verschiedene Player.

00:49:03: Es gibt Geldgeberinnen, staatliche Institutionen, Universitäten und ForscherInnen alles ganz schwierig eine schwierige Mengelage.

00:49:12: und wo staatliche Unterstützung für Universitäten Forschung unabhängig vom Trophit setzen dann oder diese Lücke füllen natürlich diese Firmen, die gar nicht auf irgendwelche Regularien warten.

00:49:25: Oder auch keine Geldsorgen haben insofern das ist natürlich schon schwierig.

00:49:33: Sie beschäftigen sich mit auch dieser Entwicklung der künstlichen Intelligenz den Folgen für die Philosophie des Bewusstseins.

00:49:43: gibt es in ihren Forschungsthemen in Ihren Vorhaben eigentlich Dinge bei denen Sie sich vorstellen können, dass sie in den nächsten Jahren interessanter werden.

00:49:53: Also die jetzt live zu verfolgende KI-Entwicklung ist dir auch in der Philosophie des Geistes etwas mit dem man sich in Projekten und Vorhaben, in philosophischen Fragen weiter beschäftigen möchte?

00:50:10: Ja natürlich!

00:50:11: Alle Fragen, die wir bisher angesprochen haben stehen im Prinzip immer im Zentrum meiner Untersuchung, aber auch derjenigen anderer Philosophinnen.

00:50:21: Sie hatten in dem Begriff des Körpers angesprochen.

00:50:23: Dazu gehört natürlich die Biologie des Kölpers und die Frage welche Rolle biologische Prozesse oder biochemische Prozess, die sich ja de facto im Gehirn abspielen relevant sind für Kognition und Bewusstsein?

00:50:39: Oder ob sie quasi ignoriert werden können zugunsten bestimmter Facetten von neuronaler Informationsverarbeitung, auf die wir uns konzentrieren können und die man auch künstlich nachbilden kann.

00:50:52: Diese Fragen in Bezug auf die Rolle der Biologie oder Biochemie des Gehirns für Kognition und Bewusstsein scheint mir in der KI-Entwicklung jetzt gerade

00:51:02: sehr

00:51:02: relevant zu sein weil sie natürlich dadurch potenziell bestimmte Grenzen aufgezeigt werden könnten Insofern künstliche Systeme diese Eigenschaften nicht werden aufweisen können.

00:51:15: Das sind dann wahrscheinlich Entwicklungen, die wir weiter mit verfolgen können.

00:51:20: Wo ich auch zu Forscher ist eben gerade diese Frage ob

00:51:25: die

00:51:26: Voraussetzungen für zum Beispiel künstliches Bewusstsein im Sinne des phänomenalen Bewusstseins gegeben sind.

00:51:33: und inwiefern wird das überhaupt feststellen können?

00:51:36: Können wir überhaupt die Frage entscheiden, wenn wir mit einer Maschine konfrontiert sind, die nicht biologisch ob diese Bewusstsein hat oder nicht.

00:51:48: Weil wir bisher Bewusstseins nur experimentell in biologischen Systemen untersuchen können und wenn es denn rein komputationale Korrelate des Bewusst seines gibt, dann sind sie in den bisher untersuchten System immer biologisch realisiert aber nicht künstlich.

00:52:10: Und wenn wir jetzt quasi über den Tellerrand schauen und dann ein künstliches System haben, das die von uns angenommenen komputationalen Bedingungen erfüllt.

00:52:24: Könnten wir dann feststellen dass es Bewusstsein hat oder müssten wir es weiterhin einfach nur zuschreiben aus unserer Warte heraus?

00:52:33: Das sind natürlich dann Fragen die jetzt vielleicht bestimmte Erkenntnisgrenzen mit sich bringen werden Insofern es schwierig sein wird, solche komputationalen Bedingungen für Bewusstsein isoliert von der Biologie zu etablieren statt nur anzunehmen.

00:52:52: Könnte die künstliche Intelligenz auch selbst ein, fast will ich schon sagen Partner sein in der wissenschaftlichen Beschäftigung mit diesem Thema?

00:53:00: Selbst den Einigen Wissenschaftlichen Disziplinen ist das ja der Fall, wenn man mit den Mathematikern und den Physikern spricht

00:53:08: die

00:53:08: schon sehr weitgehend die künstliche Intelligenz in ihrem experimentellen und methodischen Apparat untergebracht haben.

00:53:17: Für Geistes- und Sozialwissenschaftler sieht die Welt vielleicht ein bisschen anders aus.

00:53:21: da kann man sich die Frage stellen ob man es nicht eher mit einer Konkurrenz zu tun hat auch mit einer Verfälschung.

00:53:30: Praxis, die Diskussion über die Erzeugung von Texten beispielsweise co-kognitiv mit dem Sprachmodell ist nicht ganz selbstverständlich während sie in einer experimentellen Forschungseinrichtung Forschungskonstellation vielleicht als sogar Qualitätsstandard gewertet wird um eine Gleichförmigkeit der Produktion zu erreichen.

00:53:54: Ich will also sagen ein Herausforderungen besteht offenbar auch im Wissenschaftssystem selbst, je nach Disziplin und Wissenschaftsgruppe.

00:54:04: Sortierung in der man sich bewegt?

00:54:07: Ja das geschieht ja bereits.

00:54:09: Es gibt ja bereits Fälle von KI-generierten Aufsetzen die von Zeitschriften, Fachzeitschrifte akzeptiert wurden oder die es geschafft haben akzeptier zu werden sozusagen.

00:54:22: Die ganze Entwicklung finde ich sehr problematisch vor allem aufgrund von drei augenscheinlichen, offenkundigen Aspekten dieser KI-Systeme, dieser Sprachmodelle.

00:54:35: Auf der einen Seite alluzinieren sie ja bestimmte vermeintliche Tatsachen – es werden also bei der Generation von Antworten auf Ploms zum Beispiel fiktive Forschungspaper gezitiert die es gar nicht gibt.

00:54:51: das sind alles plausible Erfindungen und als solche muss man sie auch werten.

00:54:57: Insofern spielen sie in der Wissenschaft eigentlich keine Rolle.

00:55:00: Sie sollten darin keine Rolle spielen.

00:55:03: Ein zweiter Aspekt neben der Halluzination ist die Sycophancy, also diese Tendenz das Sprachmodelle dem Nutzer gefallen wollen oder solche Antworten generieren, die den Nutzer gefallen statt quasi irgendwie eine Art von Wahrheit abzuziehen.

00:55:24: und das dritte Auch in Bezug auf die Frage von künstlichen Bewusstsein natürlich interessant, dass durch den Zugriff auf Trainingsdaten KI-Modelle die Bedingungen unter denen sie als bewusst angesehen würden nutzen können.

00:55:45: Die Diskussion darüber was für bewussterend relevant wäre könnte ja benutzt werden vom KI System um solche Verhaltensweise an den Tag zu legen das es den Nutzern nahelegt, dass sie Bewusstsein haben.

00:55:59: Man spricht hier vom Gaming.

00:56:01: Sie können also die Kriterien um dies geht benutzen und umgehen oder erfüllen insofern sie Zugriff darauf haben.

00:56:09: Also all diese drei problematischen Eigenschaften finde ich sprechen dafür das sie KI System aus der Wissenschaft oder was der Forschung heraushalten sollten.

00:56:22: man kann natürlich gerne Korrekturlesen, Auslehrlager und so weiter.

00:56:27: Aber inhaltliche Generation von Texten sollte dadurch vermieden werden.

00:56:34: Also das finde ich ganz strikt weil es nichts mit Forschung zu tun hat.

00:56:40: aber dass sehen sie leicht andere Leute anders und die Entwicklung ist ja in vollem Gange.

00:56:45: und ob das aufzuhalten ist eine andere Frage.

00:56:49: Ich glaube, mit dem Laufe der Zeit wird auch das Internet unschockbarer werden.

00:56:53: Weil es natürlich mehr und mehr gefüttert wird mit Daten die KI-generiert sind und insofern falsch und halluziniert.

00:57:02: Und so dass das dann immer schwieriger wird weil natürlich die KI tut schon auf den Recherche Seiten installiert sind.

00:57:11: Dann quasi KI generierte Ergebnisse von besseren Ergebnissen zu unterscheiden.

00:57:20: Plädoyer für Zurückhaltung bei der Verwendung der Modelle zur Entwicklung wissenschaftlichen Wissens.

00:57:27: Aber wie Sie selbst sagen, auch kontrovers und unterschiedlich betrachtet im Wissenschaftssystem selbst.

00:57:33: Zum Schluss würde ich Sie gerne einmal noch fragen wenn sie es auf den Punkt brechten.

00:57:40: Gibt es eine Frage?

00:57:42: Eine spannende Facette des Bewusstseins bei der Sie sagen würden Das interessiert mich eigentlich am meisten, dass es aus meiner Sicht die am ehesten ungelöste Sache wenn wir bei Bewusstsein sprechen.

00:57:59: Ich glaube nichts an Bewusstsein ist gelöst oder verstanden und es könnte sein das das auch so bleibt auf absehbare Zeit.

00:58:09: ich glaube nicht dass die bisherigen herangehensweisen an das bewusstsein die wissenschaftlich objektivierend geprägt sind aktiven Bewusstsein gerecht werden.

00:58:23: Und es scheint mir eine spannende Frage, wie die Entwicklung gehen wird in Bezug auf begriffliche Fassungen des Bewusstseins?

00:58:34: Ob quasi neue Formulierungen bessere Definitionen oder bessere Beschreibung möglich sind, die über dieses Wie Es Ist jemand zu sein hinausgehen und dieses konkretisieren können so dass tatsächlich irgendwann einmal wissenschaftlich zugänglich würde.

00:58:55: Muss man das Ganze abschneiden und muss es zugunsten von objektiveren, kognitiveren Formulierungen fallen lassen oder kann man hier doch eine grundsätzliche Hürde für menschliches Wissensstreben ausmachen?

00:59:12: Also diese prinzipielle Frage scheint mir die Spannendste zu sein und die ist auch alles andere als gelöst teilweise aufgrund vom Begrifflichen.

00:59:23: Das Bewusstsein bleibt also ein Stück weit

00:59:25: auch verborgen

00:59:27: für unsere begrifflichen Zugänge.

00:59:30: Tobias Schlicht, herzlichen Dank für dieses verseckenweiche Gespräch!

00:59:34: Vielen Dank für die Einladung

00:59:36: und Ihnen liebe Hörerinnen und Hörder vielen Dank für das Interesse.

00:59:42: Wir freuen uns wenn Sie auch nächstes Mal wieder dabei sind am Freitag den elften September.

00:59:48: Wir senden einen Spezial mit dem promovierten Naturwissenschaftler und Manager Gero Nordmann.

00:59:55: Er forschte am renommierten MIT-

00:59:57: und verantwortet

00:59:58: heute komplexe Veränderungsprojekte, auch im Hinblick auf künstliche Intelligenz.

01:00:06: Wir sprechen über twenty-fünf Jahre Nine Eleven seine Erfahrungen in der US-Wissenschaft Bis dahin, guten Abend!

01:00:20: Sie hörten die Sendung Geist, Kognition und KI.

01:00:24: Was ist unser Bewusstsein?

01:00:26: Mit Tobias Schlicht, Lichtenberg-Professor für die Philosophie des Bewusstseins und der Kognizion an der Ruhruniversität Bochum.

01:00:34: Keynote erscheint auf www.kevid-projekt.de auf YouTube und allen gängigen Podcast-Plattformen.

01:00:42: Die Forschungsgruppe ist auch auf LinkedIn zu finden!

01:00:45: Für Feedback, Anregungen und Vorschläge schreiben Sie uns sehr gerne eine E-Mail.

01:00:56: Moderation und Redaktion dieser Folge Marcel Schütz & Jonathan Wilhelm.

01:01:01: Sprecherin Nicole Geier Projektassistenz Manuela Alben Eine Produktion der Forschungsgruppe Kiewit, im Jahr ist es in den nächsten Jahren.