"eService" im Kleinbetrieb

Home
Tag: maschine

Internationale Konferenz über Künstliche Intelligenz

In Russland fand eine Konferenz über künstliche Intelligenz statt. Russlands Präsident Putin hielt eine aufschlussreiche Grundsatzrede.

Künstliche Intelligenz – eine neues Kapitel menschlicher Existenz

[aartikel]3426448505:left[/aartikel]Künstliche Intelligenz (KI) nimmt immer mehr Raum in der öffentlichen Diskussion ein. Droht uns eine Zukunft, in der KI uns Menschen beherrscht, in der wir Sklaven der Roboter werden, wie vor Jahrzehnten Sklaven des Fließbandes?

Werden Roboter die „besseren Angestellten“ und viele Beschäftigte aus der Erwerbstätigkeit in die Abeitslosigkeit drängen?

In den Diskussionen um KI in den westlichen Gesellschaften treffen Begeisterung für die Chancen der KI auf Skepsis und Ablehnung, Angst vor Überwachung, vor gefühlloser Rationalität, automatenhaftem Konformismus.

Aus diesen Gründen ist es sicher aufschlussreich, wie in anderen Gesellschaften darüber diskutiert wird und wie diese die absehbaren Probleme lösen wollen.

Internationale Konferenz in Russland

In Russland fand eine die Internationalen Konferenz für Künstliche Intelligenz und Maschinelles Lernen Artificial Intelligence Journey 2023 zum Thema „Generative AI Revolution: New Opportunities“ statt.

An der Plenarsitzung nahm auch der russische Präsident teil und hielt eine Grundsatzrede. Diese hat der Kreml veröffentlicht. Einige Auszüge daraus habe ich nachfolgend übersetzt. Ich denke, sie sind aus mehreren Gründen für uns beachtenswert. Auch in Russland ist man sich bewusst, dass mit KI nicht nur im wirtschaftlichen Bereich grundlegende Veränderungen beginnen. Damit ergeben sich Chancen für Problemlösungen, die bisher so nicht denkbar waren. Ein Beispiel auf das Präsident Putin verwies:

„Компания «Газпром нефть», применяя технологии искусственного интеллекта, сумела значительно сократить затраты на обустройство скважин, решает сложные задачи безопасной логистики по Северному морскому пути и ряд других задач.“

„Durch den Einsatz von Technologien der künstlichen Intelligenz ist es ‚Gazprom Neft‘ gelungen, die Kosten für die Erschließung von Bohrlöchern erheblich zu senken, komplexe Probleme der sicheren Logistik entlang des nördlichen Seewegs zu lösen und eine Reihe anderer Aufgaben zu bewältigen.“

Doch die Folgen des Einsatzes von KI gehen weit über produktivere Prozesse in der Wirtschaft hinaus. So betonte der russische Präsident: „in allen Bereichen unseres Lebens beginnt die Menschheit ein neues Kapitel ihrer Existenz“.

„Kонечно, с внедрением искусственного интеллекта в науку, в образование, в здравоохранение – да во все сферы нашей жизни, человечество начинает новую главу своего существования. Это, на мой взгляд, совершенно очевидная вещь. И слава богу, граждане видят, как искусственный интеллект делает более простыми и удобными многие повседневные процессы, улучшает качество управления, механизмы предоставления государственных услуг, всё шире применяется в организациях, на предприятиях, в работе регионов.“

„Natürlich, mit der Einführung der künstlichen Intelligenz in der Wissenschaft, im Bildungswesen, im Gesundheitswesen, in allen Bereichen unseres Lebens beginnt die Menschheit ein neues Kapitel ihrer Existenz. Das ist meiner Meinung nach eine absolut selbstverständliche Sache. Und Gott sei Dank sehen die Bürger, wie künstliche Intelligenz viele alltägliche Prozesse einfacher und bequemer macht, die Qualität des Managements und die Mechanismen für die Erbringung öffentlicher Dienstleistungen verbessert und zunehmend in Organisationen, Unternehmen und Regionen eingesetzt wird.“

Soziale Folgen des Einsatzes von KI

Einen breiten Raum nahmen in Putins Grundsatzrede die sozialen Folgen ein, mit denen die Menschen beim einsatz von KI konfrontiert sind.

„Обязательно коснусь ещё социальных аспектов внедрения прорывных решений, но сразу хотел бы отметить: искусственный интеллект не заменит медицинского работника или учителя, однако он может служить их верным, эффективным помощником, предоставить педагогу больше времени для воспитания детей, помогать врачу предотвращать, выявлять на ранней стадии болезни, использоваться для дистанционного мониторинга здоровья людей.“

„Ich werde sicherlich noch auf weitere soziale Aspekte der Umsetzung bahnbrechender Lösungen eingehen, möchte aber schon jetzt darauf hinweisen: Künstliche Intelligenz wird medizinische Fachkräfte oder einen Lehrer nicht ersetzen, aber sie kann ihnen als treuer, effektiver Assistent dienen, einem Lehrer mehr Zeit für die Erziehung seiner Kinder verschaffen, einem Arzt bei der Vorbeugung und Früherkennung von Krankheiten helfen und zur Fernüberwachung der Gesundheit der Menschen eingesetzt werden.“

Vier Schwerpunktaufgaben für die russische Gesellschaft

Gerade angesichts der nun schon seit Jahren anhaltenden Diskussion über Fachkräftemangel in Deutschland, verleiten die von Putin hervorgehobenen Schwerpunktaufgaben zu einem Vergleich mit Deutschland.

„Первое. Прошу Правительство, Альянс, Российскую академию наук предложить механизм, который обеспечит доступ отечественных учёных к существующим и создаваемым в России суперкомпьютерам. Особые льготы для пользования вычислительной инфраструктурой должны получить аспиранты, студенты, школьники, которые уже занимаются научной и практической деятельностью в области искусственного интеллекта.“

„Erstens. Ich ersuche die Regierung, die Allianz und die Russische Akademie der Wissenschaften, einen Mechanismus vorzuschlagen, der den Zugang einheimischer Wissenschaftler zu den bestehenden und neu geschaffenen Supercomputern in Russland gewährleistet. Besondere Privilegien für die Nutzung der Computerinfrastruktur sollten Doktoranden, Studenten und Schüler, die bereits wissenschaftlich und praktisch auf dem Gebiet der künstlichen Intelligenz tätig sind, erhalten.“

„Второе. Обращаю внимание Правительства и компаний Альянса: действующие мощности российских суперкомпьютеров следует, конечно же, нарастить не менее чем на порядок. Это критически необходимо для дальнейшего развития генеративного искусственного интеллекта.“

„Zweitens. Ich möchte die Regierung und die Unternehmen der Allianz darauf aufmerksam machen, dass die derzeitige Kapazität der russischen Supercomputer natürlich um mindestens eine Größenordnung erhöht werden sollte. Dies ist entscheidend für die weitere Entwicklung der generativen künstlichen Intelligenz.“

„Третье. Нужно существенно расширить подготовку кадров, сильнейших учёных-разработчиков. Такую задачу необходимо ставить перед лидером первого рейтинга вузов по качеству подготовки специалистов в сфере искусственного интеллекта – это Высшая школа экономики, МФТИ, ИТМО, Московский и Санкт-Петербургский госуниверситеты, а также Сколтех.

Предлагаю вузам с высоким рейтингом Альянса уже к 1 сентября 2024 года расширить свои программы магистратуры и аспирантуры на подготовку кадров именно в области разработки технологий искусственного интеллекта, а также дополнительно за счёт федерального бюджета увеличить приём студентов на базовые программы в области искусственного интеллекта.“

„Drittens. Es ist notwendig, die Ausbildung des Personals, der stärksten Wissenschaftler und Entwickler deutlich zu erweitern. Diese Aufgabe sollte dem Leiter der ersten Bewertung der Universitäten in Bezug auf die Qualität der Ausbildung von Spezialisten auf dem Gebiet der künstlichen Intelligenz gesetzt werden – das sind die Higher School of Economics, MIPT, ITMO, die Staatlichen Universitäten Moskau und St. Petersburg, sowie Skoltech.

Ich schlage vor, dass die Universitäten mit einem hohen Rating der Allianz bis zum 1. September 2024 ihre Master- und Aufbaustudiengänge zur Ausbildung von Personal im Bereich der Entwicklung von Technologien der künstlichen Intelligenz ausbauen und die Zahl der Studenten in den Grundstudiengängen auf dem Gebiet der künstlichen Intelligenz auf Kosten des Bundeshaushalts erhöhen sollten.“

„Четвёртое. Мы готовы подумать о том, чтобы изменить структуру финансирования науки и направить дополнительные средства на исследования и разработки в сфере применения генеративного искусственного интеллекта и больших языковых моделей. При условии, если наши ведущие компании возьмут на себя обязательство софинансировать такие работы, обеспечить тестирование соответствующих технологий. И главное – на основе полученных результатов создать прорывные продукты, конкурентоспособные по сравнению с ведущими мировыми образцами.

Отмечу, что Россия сейчас входит в число тех немногих, кстати, говоря, стран, у которых есть свои собственные технологии генеративного искусственного интеллекта и большие языковые модели. Это разработки «Сбера», сейчас только тоже говорили об этом, – GigaChat и Kandinsky, а также «Яндекс» – это YandexGPT и «Шедеврум».

Нужно укреплять это наше конкурентное преимущество, создавать на основе таких технологий новые рынки, целое созвездие продуктов и услуг. И прежде всего речь о том, чтобы воспользоваться самыми передовыми технологиями, повысить свою эффективность могли бы врачи, учителя, строители, я уже говорил об этом, агрономы, работники промышленности, транспорта, государственного управления и многих других сфер.“

„Viertens. Wir sind bereit, eine Änderung der Struktur der Wissenschaftsfinanzierung zu erwägen und zusätzliche Mittel für die Forschung und Entwicklung im Bereich der generativen künstlichen Intelligenz und großer Sprachmodelle bereitzustellen. Vorausgesetzt, unsere führenden Unternehmen verpflichten sich, diese Arbeiten mitzufinanzieren und die entsprechenden Technologien zu testen. Und das Wichtigste ist, dass auf der Grundlage der erzielten Ergebnisse bahnbrechende Produkte entstehen, die mit den weltweit führenden Modellen konkurrenzfähig sind.

Ich möchte anmerken, dass Russland heute übrigens zu den wenigen Ländern gehört, die über eigene generative Technologien der künstlichen Intelligenz und große Sprachmodelle verfügen. Das sind die Entwicklungen von ‚Sber‘, jetzt haben wir gerade auch darüber gesprochen – GigaChat und Kandinsky, sowie von ‚Yandex‘ – YandexGPT und ‚Masterpiece‘.

Wir müssen unseren Wettbewerbsvorteil ausbauen, neue Märkte auf der Grundlage solcher Technologien schaffen, eine ganze Reihe von Produkten und Dienstleistungen. Und vor allem geht es darum, wie Ärzte, Lehrer, Bauarbeiter – ich habe es bereits erwähnt -, Landwirte, Beschäftigte in der Industrie, im Verkehrswesen, in der öffentlichen Verwaltung und in vielen anderen Bereichen die modernsten Technologien nutzen und ihre Effizienz verbessern können.“

An dieser Stelle sei nur eingefügt, dass Präsident Putin und die russische Regierung sich bewusst sind, dass das auch in Russland bestehende Fachkräfteproblem nicht durch Einwanderung zu lösen ist. Hatte doch erst am 25. 10. 2023 Patriarch Kirill sich besorgt über die langfristigen Folgen der Anwerbung billiger Arbeitskräfte aus dem Ausland nach Russland geäußert.

Russland hält auch das Bologna-System für ungeeignet, um Fachkräfte besonders für die Wirtschaft zu gewinnen. Deswegen hat es bereits 2022 als Alternative die Rückkehr zum bewährten System der Hochschulausbildung eingeleitet.

Personalprognose für die nächsten fünf Jahre

Aufgrund dieser Schwerpunkte brauchen Behörden und Wirtschaft eine neue Personalprognose.

„Одновременно в рамках подготовки пятилетнего прогноза потребностей в кадрах с участием бизнеса, разумеется, прошу максимально внимательно проанализировать, где, в каких отраслях уже в краткосрочной перспективе изменятся требования к существующим специальностям и потребуются новые профессии, навыки, новые компетенции. На основе этого перед системой образования должны быть поставлены конкретные задачи по изменению программы профориентации и подготовки специалистов.“

„Gleichzeitig möchte ich Sie natürlich bitten, im Rahmen der Erstellung einer fünfjährigen Personalbedarfsprognose unter Beteiligung der Wirtschaft möglichst sorgfältig zu analysieren, wo und in welchen Bereichen sich die Anforderungen an bestehende Berufe kurzfristig ändern und neue Berufe, Qualifikationen und neue Kompetenzen benötigt werden. Darauf aufbauend sollten konkrete Aufgaben für das Bildungssystem gestellt werden, um die Berufsorientierung und die Fachausbildung zu verändern.“

Weiterentwicklung von KI ist nicht aufzuhalten

Der russische Präsident hatte schon zu Beginn seiner Rede auf die sozialen Probleme und Folgen der Nutzung von KI verwiesen. Deshalb ging er gerade auf die damit verbundenen ethischen Probleme nochmals stärker ein.

„Где границы развития искусственного интеллекта? Подобные этические, нравственные, социальные вопросы вызывают серьёзные споры в нашей стране да и во всём мире. Звучат даже предложения поставить на паузу дальнейшую работу в области генеративного и тем более так называемого сильного искусственного интеллекта, который, по прогнозам, будет обладать сверхмощными когнитивными способностями.“

„Wo liegen die Grenzen der Entwicklung künstlicher Intelligenz? Solche ethischen, moralischen und sozialen Fragen führen zu ernsthaften Auseinandersetzungen in unserem Land und in der ganzen Welt. Es gibt sogar Vorschläge, die weitere Arbeit auf dem Gebiet der generativen und erst recht der so genannten starken künstlichen Intelligenz, die Prognosen zufolge über übermächtige kognitive Fähigkeiten verfügen wird, auf Eis zu legen.“

„Но тем не менее я убеждён, что будущее не за запретами развития технологий, это просто невозможно. Запретить невозможно, всё равно будет развиваться. Если мы что-то запретим, будет развиваться в другом месте, а мы отстанем только, вот и всё. И так рассуждают все, у кого есть возможности развивать искусственный интеллект.

Но, конечно, нужно следить за тем, чтобы обеспечить безопасность, разумность создания применения таких технологий. И опорой здесь должна служить в том числе и прежде всего традиционная культура. Она самый естественный этический регулятор технологического прогресса, как и идеалы добра, уважения к человеку, о которых писали Толстой, Достоевский, Чехов, такие выдающиеся писатели-фантасты, как Беляев и Ефремов. Кстати говоря, можно и искусственному интеллекту ставить задачи в этой области, как искусственный интеллект должен ограничивать свою сферу деятельности, чтобы не выходить за какие-то рамки, которые будут наносить ущерб человеку.“

„Dennoch bin ich überzeugt, dass die Zukunft nicht darin liegt, die Entwicklung der Technologie zu verbieten, das ist einfach unmöglich. Sie zu verbieten ist unmöglich, alles entwickelt sich. Wenn wir etwas verbieten, wird es sich anderswo entwickeln, und wir werden nur zurückfallen, das ist alles. Und so denken alle, die die Fähigkeit haben, künstliche Intelligenz zu entwickeln.

Aber natürlich ist es notwendig, bei der Entwicklung solcher Technologien für Sicherheit und Vernunft zu sorgen. Und hier sollte vor allem die traditionelle Kultur als Stütze dienen. Sie ist der natürlichste ethische Regulator des technischen Fortschritts, ebenso wie die Ideale der Güte und der Achtung vor dem Menschen, über die Tolstoi, Dostojewski, Tschechow und so hervorragende Schriftsteller wie Beljajew und Jefremow geschrieben haben. Es ist übrigens auch möglich, der künstlichen Intelligenz in diesem Bereich Aufgaben zu stellen, wie die künstliche Intelligenz ihren Wirkungskreis begrenzen sollte, um nicht über bestimmte Grenzen hinauszugehen, die für den Menschen schädlich wären.“

Wettbewerb mit der westlichen KI-Entwicklung

In der Vergangenheit ging es wohl für Russland vor allem darum, die materiell-technischen Voraussetzungen zu schaffen, um den Anschluss an die KI-Entwicklung nicht zu verpassen. Nunmehr gelte es jedoch verstärkt die Multipolarität auch bei der Entwicklung und Anwendung der KI zu fördern.

„Но с какими фактами мы уже сталкиваемся? Сейчас на практике это происходит. Вам, думаю, хорошо известно, что некоторые, так скажем, западные поисковые системы, как и генеративные модели, работают зачастую весьма избирательно, ангажированно, не учитывают, а порой просто игнорируют и отменяют российскую, скажем, культуру. Проще говоря, перед машиной ставят какую-то творческую задачу, и она решает её, используя только англоязычный массив данных, тот, который удобен, выгоден разработчикам системы. Таким образом, алгоритм, например, может указать машине, что России, нашей культуры, науки, музыки, литературы просто не существует. Своего рода «отмена» в цифровом пространстве. А потом так же могут поступить и с другими культурами и другими цивилизациями, выпячивая себя, подчёркивая и в этом пространстве свою исключительность. Вот такой ксенофоб может получиться из искусственного интеллекта, созданного по некоторым западным стандартам и лекалам.

Повторю, многие современные системы, обученные на западных данных, предназначены для западного рынка, в полном смысле слова отражают вот ту часть западной этики, те нормы поведения, государственную политику, против которой мы и возражаем. Конечно, монопольное доминирование подобных чужих разработок в России неприемлемо, опасно и недопустимо. Наши, отечественные модели искусственного интеллекта должны отражать всё богатство и многообразие мировой культуры, наследие, знание, мудрость всех цивилизаций. От этого мы с вами станем только богаче и более конкурентоспособными. И конечно, наши традиционные ценности, богатство и красота русского языка и языков других народов России должны лежать в основе наших разработок.“

„Aber mit welchen Fakten sind wir bereits konfrontiert? Es geschieht jetzt in der Praxis. Ich denke, Sie wissen sehr wohl, dass einige sozusagen westliche Suchmaschinen sowie generative Modelle oft sehr selektiv und voreingenommen arbeiten, indem sie beispielsweise die russische Kultur nicht berücksichtigen und manchmal einfach ignorieren und löschen. Einfach ausgedrückt: Der Maschine wird eine kreative Aufgabe gestellt, und sie löst sie nur mit dem englischsprachigen Datensatz, der für die Systementwickler günstig ist. So kann zum Beispiel ein Algorithmus der Maschine sagen, dass Russland, unsere Kultur, Wissenschaft, Musik und Literatur einfach nicht existieren. Eine Art ‚Löschung‘ im digitalen Raum. Und dann können sie das Gleiche mit anderen Kulturen und anderen Zivilisationen tun, sich selbst zur Schau stellen und ihre Exklusivität in diesem Raum betonen. Das ist die Art von Fremdenfeindlichkeit, die eine künstliche Intelligenz hervorbringen kann, die nach westlichen Maßstäben und Formen geschaffen wurde.

[aartikel]3453218566:right[/aartikel]Ich wiederhole: Viele moderne Systeme, die an westlichen Daten geschult und für den westlichen Markt konzipiert sind, spiegeln im wahrsten Sinne des Wortes den Teil der westlichen Ethik, der Verhaltensnormen und der staatlichen Politik wider, den wir ablehnen. Natürlich ist die monopolistische Beherrschung solcher ausländischen Entwicklungen in Russland inakzeptabel, gefährlich und unzulässig. Unsere heimischen Modelle der künstlichen Intelligenz sollten den Reichtum und die Vielfalt der Weltkultur, das Erbe, das Wissen und die Weisheit aller Zivilisationen widerspiegeln. Das wird uns nur reicher und wettbewerbsfähiger machen. Und natürlich sollten unsere traditionellen Werte, der Reichtum und die Schönheit der russischen Sprache und der Sprachen anderer Völker Russlands die Grundlage für unsere Entwicklungen sein.“

Davon ausgehend hält es Putin für geboten, die russischen Erfahrungen den den Ländern zu teilen, die offen für Multipolarität sind.

„Российский опыт можно использовать и при формировании международных этических стандартов в области искусственного интеллекта, добиваться именно взвешенного и обоснованного регулирования, которое будет использоваться в интересах всех, а не отдельных стран. Предлагаю детально обсудить данные вопросы в рамках российского председательства в БРИКС в следующем году. Мы как организаторы этой работы в рамках упомянутой организации, конечно, можем это сделать. Уверен, коллеги нас поддержат, обязательно нужно вернуться к этой теме на будущей конференции «Сбера». Сделать её полноформатной площадкой для регулярного обсуждения международной повестки в сфере искусственного интеллекта, обсуждать этические аспекты его применения и на специальном международном форуме, который теперь на регулярной основе будет проводиться в нашей стране.“

„Die russischen Erfahrungen können auch bei der Ausarbeitung internationaler ethischer Standards im Bereich der künstlichen Intelligenz genutzt werden, um eine ausgewogene und fundierte Regelung zu erreichen, die im Interesse aller und nicht nur einzelner Länder eingesetzt wird. Ich schlage vor, diese Fragen während des russischen BRICS-Vorsitzes im nächsten Jahr eingehend zu erörtern. Wir als Organisatoren dieser Arbeit innerhalb der oben genannten Organisation können dies sicherlich tun. Ich bin sicher, dass unsere Kollegen uns unterstützen werden, und wir sollten dieses Thema auf jeden Fall auf einer künftigen Sber-Konferenz wieder aufgreifen. Machen Sie sie zu einer umfassenden Plattform für die regelmäßige Erörterung der internationalen Agenda im Bereich der künstlichen Intelligenz, und diskutieren Sie die ethischen Aspekte ihrer Anwendung auf einem speziellen internationalen Forum, das nun regelmäßig in unserem Land stattfinden wird.“

Wie aufschlussreich fanden Sie diesen Artikel?

(No Ratings Yet)

Roboter vs. Mensch

Die Faszination des Unlebendigen

Roboter werden Menschen immer ähnlicher — dies gilt aber auch umgekehrt, denn Verfügbarkeit, Emotionslosigkeit und fehlender Eigenwille sind bei Herrschenden beliebte Qualitäten.

von Roland Rottenfußer

„Organische“ Menschen aus Fleisch und Blut mit echten Gefühlen und Schwächen — noch gibt es sie, aber es sind Auslaufmodelle, bestimmt dazu, von leistungsfähigeren Intelligenzformen verdrängt zu werden. „Transhumanisten“ denken schon jetzt über Gehirn-Computer-Schnittstellen nach und über Wege, das Bewusstsein in digitale Speicher hochzuladen. Während Soldaten in der Realität Robotern immer ähnlicher werden, spielen Science-Fiction-Filme die gegenteilige Entwicklung durch: Roboter, die immer menschlicher werden, sodass die Unterschiede zwischen beiden verschwimmen. Woher kommt die Faszination für Androiden und Kunstmenschen? Sind verfügbare Maschinen ohne Eigenwillen für uns die idealen Freunde, Liebespartner oder Arbeitnehmer? Oder sind wir dabei — in der Absicht, „mehr als menschlich“ zu werden —, unsere Menschlichkeit freiwillig aufzugeben?

„Du bist nur eine Maschine“, sagte der Mensch. „Eine Imitation des Lebens. Kann ein Robot eine Symphonie schreiben? Kann ein Robot ein Stück Leinwand in ein Meisterwerk verwandeln?“ — „Können Sie‘s?“, antwortete der Robot. Dieser höchst originelle Wortwechsel aus dem Film „I, Robot“ (2004, Regie: Alex Proyas) zeigt, wie nahe sich Menschen und Roboter oft sind, wie relativ unsere vermeintliche Überlegenheit. Roboterfilme sind ein Dauerbrenner auf der Leinwand. Gerade in den letzten Monaten wurden wieder zwei dieser Werke gezeigt. In „Terminator: Genisys“ kehrt Arnold Schwarzenegger in seiner Paraderolle als Killerroboter auf die Leinwand zurück — der Mann, der in seiner Zeit als Gouverneur Kaliforniens zahlreiche Todesurteile unterzeichnet hat.

In „Ex Machina“ von Alex Garland verliebt sich der Held in eine schöne humanoide Roboterfrau (Alicia Vikander). Hat sie eine Seele? Und was genau unterscheidet Mensch von Maschine, wenn die Fertigung der Letzteren höchste Perfektion erreicht? Das Handlungsmotiv ist sehr alt. Schon in E.T.A. Hoffmanns Erzählung „Der Sandmann“ (1816) verliebt sich Nathanael in die mechanische Puppe Olimpia. Obwohl diese nur steif dasitzt, dichtet ihr der Enthusiasmus des Jünglings allerlei menschliche Qualitäten an. Für besonders seelenvoll hält er die Puppe, und selbst ihre Schweigsamkeit wird ihr als Tiefe ausgelegt, die vieler Worte nicht bedarf. Welche Menschenfrau wäre so perfekt darin gewesen, die Projektionen eines Mannes auf sich zu ziehen? Echte Frauen durchbrechen die Illusion doch immer gleich durch lästigen Eigenwillen. So entlarven Robotergeschichten fast immer menschliche Sehnsüchte und psychische Grauzonen.

„Olimpia“ reloaded

Im modernen Filmschaffen finden sich „Olimpias“ in Hülle und Fülle. In der schwedischen Sci-Fi-Serie „Real Humans“ ist es eine künstliche „Asiatin“, die das Begehren eines Pubertierenden auf sich zieht. In „Her“ genügt die sexy Stimme eines Computerprogramms (Scarlett Johansson), um die Fantasie eines einsamen Mannes zu entzünden. Der Reiz des Künstlichen beruht immer auf einem Unbehagen am Natürlichen, an den Fallstricken des Menschseins. Hatte Jean-Paul Sartre nicht geschrieben: „Die Hölle, das sind die anderen“? Wäre der Himmel demnach ein Leben ohne „die anderen“ — nicht völlig einsam zwar, aber ohne ein wirkliches Gegenüber?

Wäre vielleicht der Roboter als Partner der ideale Kompromiss zwischen der Sehnsucht nach Gesellschaft und dem Überdruss, auf Menschen eingehen zu müssen?

Schon Computerspiele und elektronische Medien sind ja — wenn auch unkörperliche — „Freunde“, zu denen der Beziehungsunfähige Zuflucht nehmen kann. Käme ein humanoider Körper — gar ein sexuell anregender — hinzu, so wäre das Paradies komplett. Gerade Filme in der ihnen eigenen Direktheit transportieren solche Schattenbereiche sehr gut.

Welche Eigenschaften der Roboter also faszinieren besonders? Da ist zunächst ihre Programmierbarkeit, ihre Formbarkeit nach den Wünschen des Besitzers. Die Hologramme in der Serie „Star Trek: Voyager“ können zum Beispiel, wenn sie unangenehme Eigenschaften zeigen, von den „Organischen“ nach Belieben umprogrammiert werden. Da können „Subroutinen“ ausgetauscht werden, können Körperform und Sprache modelliert und Charaktermerkmale in Sekundenschnelle upgeloadet werden.

Der Filmklassiker „Die Frauen von Stepford“ (1975) karikiert Männerfantasien am Beispiel einer Vorstadt, in der die Männer ihre widerborstigen Frauen komplett durch Androiden ersetzen: hübsche und devote Dummchen, die ihren Lebensinhalt nur an Heim und Herd sehen. Beziehungen — oft ein Ort des Konflikts — können gelingen, wenn es einem der „Partner“ komplett an Eigenwillen fehlt, wenn er nicht mehr Subjekt, sondern nur noch Objekt ist, widerstandslos dem Willen des „Besitzers“ hingegeben. Kaum ein Filmgenre hat größeres satirisches Potenzial als der Roboterfilm.

Entwicklungsziel „Kaltes Herz“

Freuds grundlegender Satz über Träume lautet, sie seien Wunscherfüllung. Für Geschichten und Filme gilt das häufig ebenso. Robotergeschichten erfüllen vor allem zwei davon: erstens den Wunsch, mit einem Roboter eng verbunden zu sein, über ihn verfügen zu können; zweitens den Wunsch, selbst ein Roboter zu sein. In diesem Fall steckt eine Sehnsucht nach Auslöschung schmerzlicher Gefühle dahinter. Der Wunsch, selbst Maschine zu sein, fand ihren frühen, genialen Ausdruck in einem Märchen, das zunächst mit Robotern gar nichts zu tun hat: Wilhelm Hauffs „Das kalte Herz“ (1827), in dem der Held sein Gefühlszentrum an eine Teufelsgestalt, den Holländermichel, verkauft. Der macht mächtig Werbung für die Wonnen der Herzlosigkeit:

[aartikel]1539975681:left[/aartikel]„Wenn du im ganzen Körper Mut und Kraft, etwas zu unternehmen, hattest, da konnten ein paar Schläge des dummen Herzens dich zittern machen; und dann die Kränkungen der Ehre, das Unglück, wozu soll sich ein vernünftiger Kerl um dergleichen bekümmern? Hast du’s im Kopfe empfunden, als dich letzthin einer einen Betrüger und schlechten Kerl nannte? Hat es dir im Magen wehgetan, als der Amtmann kam, dich aus dem Hause zu werfen? Was, sag an, was hat dir wehe getan?“ — „Mein Herz.“

Interessanterweise wird „Das kalte Herz“ dann zu einer Art Neoliberalismus-Satire, ohne dass es das Wort zu Lebzeiten Hauffs gegeben hätte. Der Protagonist verleiht Geld gegen Wucherzinsen und verweist alle Armen von seiner Türschwelle. Parallel hierzu sind die Anforderungen mancher modernen Arbeitgeber an ihre Angestellten ja auch eher auf Roboter als auf Menschen zugeschnitten. Insbesondere eine unrhythmische, grenzenlose Verfügbarkeit und eine monotones, „resilientes“ Gefühlsleben gelten als Arbeitnehmertugenden.

Das operable Gewissen

Ohne quälende Gefühle zu sein, eigentlich nicht mehr Mensch zu sein — dieses Bedürfnis drückt sich in neueren Filmen häufig in der Roboter-Figur aus. Freiheit nicht nur von Angst und Schmerz, sondern auch vor der Tyrannei des Gewissens, das sich mancher Global Player vielleicht operabel wünschen würde. Auch in anderen Seelenerkaltungsfabeln wie „Die Körperfresser“ (1978) geht es um diesen Alptraum, hinter dem der Wunschtraum nach Befreiung von quälenden Gefühlsturbulenzen steckt. Hinzu kommt die Vision überlegener Intelligenz und unbegrenzter Speicherkapazität — die Vision des Übermenschentums, wie sie vor einigen Jahren in der Figur der Wunderfrau „Lucy“ (Regie: Luc Besson) über die Leinwand flimmerte. „Nutzen Sie 100 Prozent Ihres Gehirnpotenzials“ — ist dies nicht das Mantra Dutzender von Esoterik-Ratgebern?

[aartikel]B06W55DRSB:right[/aartikel]Interessanterweise gehen Filmdrehbücher auch den umgekehrten Weg und berichten von Androiden, die menschlich werden wollen, sogar nach Wegen suchen, sich Gefühle implantieren zu lassen. Eine Figur wie „Data“ aus der Serie „Star Trek: The Next Generation“ diskutiert permanent die Frage, was einen Menschen eigentlich von einem „Ding“ unterscheidet. Hinreißend etwa eine Folge, in der der menschenähnliche Roboter versucht, eine Beziehung zu einer „echten“ Frau einzugehen. „Wieso flieg ich nur ständig auf die falschen Männer?“, sagt da die gutaussehende Jenna und schaut ihr Gegenüber dabei vielsagend an. „Wieso flieg ich nicht auf jemanden wie Sie? Sie sind perfekt.“ Data, dem dieses Kompliment gilt, meint, bescheiden widersprechen zu müssen: „Das ist nicht wahr. Ich habe keine menschlichen Gefühle.“

Datas erste Liebe

Für die Frau ist dieser Einwurf jedoch nur der Startschuss dafür, ihn weiter über den grünen Klee zu loben. „Aber Sie geben mir wirklich viel. Sie verbringen Zeit mit mir, wenn ich einsam bin. Sie heitern mich auf, wenn ich down bin. Kein Mann hat mich jemals so nett behandelt. Das sind die Dinge, die für mich zählen.“ Daraufhin küsst sie ihren reichlich perplexen Gesprächspartner ungehemmt auf den Mund. Einige Szenen und eine nur bedingt befriedigende Affäre später gibt Jenna ihrem vormals Angebeteten den Laufpass. Was sie ihm zum Vorwurf macht? „Nichts, was ich tun kann, wird Sie jemals glücklich oder traurig machen.“ Die Szenen stammen aus der witzig-anrührenden Folge „Datas erste Liebe“ in der vierten Staffel von „Star Trek — das nächste Jahrhundert.“

Was kann an einem Androiden anziehend wirken? Jenna sagt es deutlich. Ein gutes Programm vorausgesetzt, kann er sich weit besser auf sein Gegenüber einstellen als ein „Organischer“, ist geduldig, hat keine eigenen Bedürfnisse, keine psychischen Traumata, die einer Beziehung im Weg stehen können, ist nie gekränkt und nie ungeduldig, nimmt sich Zeit, wartet und funktioniert, wo er funktionieren soll.

Der Vorteil an einem Androiden ist, dass er keine Gefühle hat. Der Nachteil an einem Androiden ist, dass er keine Gefühle hat.

Selbst bei bester Programmierung fühlt „frau“ sich von ihm niemals wirklich gesehen und geliebt. Datas Romanze nimmt die Anforderungen, die Frauen an Männer stellen, freundlich-ironisch aufs Korn. Am Ende bleibt für männliche Zuschauer das gute Gefühl, dass sie etwas haben, was diese vielleicht ganz gut aussehende Ansammlung von Metall und Schaltkreisen ihrer Frau niemals wird geben können.

Die Menschheit vor sich selbst schützen

Natürlich verteidigen die meisten Roboterfilme im Kern die Menschlichkeit, die Ambivalenz des Gefühlslebens, den Charme der Fehlerhaftigkeit. Meistens ist es die Liebe eines schmucken Heldenpärchens, die das Publikum zum Festhalten an ihrer Emotionalität überreden soll. Doch es gibt auch die andere Seite der emotionalen Labilität: Zorn, Hass und Destruktivität, die nicht nur das Privatleben zur Hölle machen können, sondern mittlerweile auch das Überleben der menschlichen Spezies gefährden. In „I, Robot“ wird ein Szenario entworfen, in dem der Mensch durch Maschinen vor sich selbst geschützt werden muss. Der Film verarbeitet darin das 1. Robotergesetz des Science-Fiction-Autors Isaak Asimov:

„Ein Roboter darf kein menschliches Wesen verletzen oder durch Untätigkeit gestatten, dass einem menschlichen Wesen Schaden zugefügt wird.“

Ein geniales Elektronengehirn, das eine Armee von Androiden virtuell steuern kann, errichtet daraufhin eine Roboter-Militärdiktatur, die gemeinschaftsschädigendes Verhalten der Menschen streng ahndet.

„Ihr habt uns beauftragt, für eure Sicherheit zu sorgen. Trotz unserer Anstrengungen brechen eure Staaten aber Kriege vom Zaun, ihr vergiftet die Erde und verfolgt noch viel raffiniertere Wege der Selbstzerstörung. Folglich kann man die Fürsorge für euer Überleben nicht euch selbst überlassen.“

Eines übersieht der Zentralcomputer im Film “I, Robot” jedoch: Es ist nicht unbedingt der Verstand, der der Menschheit am dringendsten fehlt, es ist Mitgefühl — die Fähigkeit, im Nächsten ein fühlendes, schmerzempfindliches Wesen mit eigenen Rechten zu sehen. So gesehen ist die Roboterisierung der Menschheit schon viel zu weit fortgeschritten, denn gerade im Krieg werden Soldaten erzogen, wie Androiden — also gar nicht — zu fühlen und ihre Mitmenschen anderer Herkunft oder Religion wie leblose Gegenstände zu entsorgen.

Robotermenschen: die perfekten Angestellten

Die Annäherung des Menschen an Roboter in der Realität ist grausiges Gegenstück zu den vielen menschlichen Robotern, die man im Film bewundern kann. Auch macht die systematisch vorangetriebene emotionale Verflachung der Menschen und ihre Reduktion auf bestimmten Funktionen innerhalb einer ökonomischen Maschinerie diese zu idealen, verwertbaren Objekten im Neoliberalismus.

Mit den Eigenschaften „Programmierbarkeit“, „Unermüdlichkeit“, „fehlender Eigenwille“ und „fehlende störende Emotionalität“ sind Robotermenschen aus der Perspektive der Herrschenden tatsächlich die idealen Staatsbürger.

Umgekehrt: Die Menschlichkeit, die es für uns zu bewahren gilt, zeigt sich gerade im Gegenteil des Roboterhaften: in Unabhängigkeit von Manipulation, im Beharren auf Eigenart, in der Fähigkeit zu Freude und Leid, rhythmischen Schwankungen der Lebensführung, begrenzter Energie und Verfügbarkeit sowie dem endgültigen Abschied vom inhumanen Ideal der Perfektion. Letztlich auch darin, dass wir bereit sind, uns mit unserer so verstörenden wie beglückenden „Software“ auszusöhnen: den Gefühlen.

Wer programmiert hier wen?

Aber können wir uns wirklich darauf verlassen, dass Roboter stets unter der Kontrolle von uns Menschen bleiben — dass sie uns „dienen“, wie perfekt oder unperfekt auch immer? Eine hoch interessante Abhandlung über die Machtverteilung zwischen Mensch und Maschine enthält der Roman „Maschinen wie ich“ von dem britischen Starautor Ian McEwan. Ein Ehepaar erwirbt darin den hoch entwickelten Haushaltsroboter „Adam“. Der funktioniert auch anfangs gut. Plötzlich aber begleicht er selbstständig alle Steuerverpflichtungen seines Besitzers, obwohl dieser ein paar Einnahmen gern verschwiegen hätte. Hier wurde der Androide wohl schon ab Werk auf Gesetzestreue programmiert.

Die Frage, die sich mit dem Roman stellt, ist überaus aktuell: Kann und sollte man Maschinen die Kontrolle über ethische Entscheidungen überlassen? Autos, die nervig piepsen, wenn man sich hineinsetzt, ohne sich anzuschnallen, sind bereits „Agenten“ staatlicher Regeln im Privatbereich des Menschen. Drohnen können selbstständig entscheiden, wann eine Gefahr vorliegt und die Tötung von Menschenleben gerechtfertigt ist. Maschinen können Daten in für uns unvorstellbarer Geschwindigkeit verarbeiten. Sie sind nie überfordert, aber auch unfähig, „mal ein Auge zuzudrücken“.

Automatenhafter Konformismus

Mit selbst entscheidenden Robotern fällt eine bisher nie gekannte Macht in die Hände der Programmierer. Speziell wenn eine diktatorische Regierung dahintersteckt, kann damit ein Zwang zur Gesetzestreue einprogrammiert werden. In China entscheiden Algorithmen darüber, wie Bürger innerhalb des vollüberwachten „Social Credit“-Systems einzustufen sind. Dies kann dazu führen, dass niedrig Gerankten der Zutritt zu Bereichen des öffentlichen Lebens verwehrt bleibt. Bei der Weiterentwicklung solcher Systeme sind der Fantasie grundsätzlich keine Grenzen gesetzt. So könnten automatische Schranken in naher Zukunft Ungeimpfte ausschließen, wenn der Impfstatus auf einer elektronischen Gesundheitskarte gespeichert ist. Denn auch in unserer so viel gelobten „freien Welt“ kursiert ja seit einiger Zeit das Motto „Ein bisschen Diktatur geht immer“.

Lange vor der Welle der großen Roboter-Geschichten und lange bevor das Wort „Computer“ aufkam, sprach Erich Fromm in seiner klassischen psychologischen Abhandlung „Die Furcht vor der Freiheit“ (1941) vom „automatenhaften Konformismus“ vieler Zeitgenossen. Wenn man als Machthaber Menschen züchten will, die nicht zwischen Alternativen zu wählen vermögen, sondern stets streng auf dem einmal „einprogrammierten“ Pfad bleiben, dann sollte man Sorge dafür tragen, dass sie Adam immer ähnlicher werden. Denn je weniger lebendig ein Mensch, desto brauchbarer für Machthaber. Wem das nicht behagt, der sollte Sorge tragen, dass er immer weniger „zu gebrauchen“ ist.

Dieser Artikel erschien auf Rubikon am 13.12.2022 und ist unter einer Creative Commons-Lizenz (Namensnennung – Nicht kommerziell – Keine Bearbeitungen 4.0 International) lizenziert. Unter Einhaltung der Lizenzbedingungen dürfen Sie es verbreiten und vervielfältigen.

Beiträge und Artikel anderer Autoren müssen nicht die Sichtweise der Webseiteninhabers widerspiegeln, sondern dienen nur der vergleichenden Information und Anregung zur eigenen Meinungsbildung.

Wie aufschlussreich fanden Sie diesen Artikel?

(No Ratings Yet)

Tools

Mensch – Maschine – Zukunft

Der Mensch in der Maschine

Die drohende Dystopie ist nicht von außen über uns hereingebrochen — wir haben sie durch unser mechanistisches Denken selbst erschaffen.

von Thomas Damberger

Die Verschmelzung von Mensch und Maschine nimmt rapide zu. Über uns entfaltet sich in diesen Tagen der von Elon Musk neu bestirnte Himmel, und in uns arbeitet zunehmend eine Technologie, die uns einer alles umspannenden Maschine ins Netz gehen lässt. Der Körper avanciert zum Datenproduzenten, zum Rohstofflieferanten. Und der ständig produzierte und abgegriffene Datenrohstoff wird von sehr großen und sehr einflussreichen Konzernen weiterverarbeitet und zu Geld gemacht. Der folgende Beitrag zeigt auf, warum unser Denken eine sich zunehmend realisierende Dystopie erzeugt.

Die Maschine steht still

Vor mehr als 100 Jahren, um genau zu sein im Jahre 1909, veröffentlichte der britische Autor Edward Morgan Forster eine Erzählung mit dem Titel The Machine Stops. Forster beschreibt darin eine dystopische Zukunftsvision, in der ein Leben auf der Erdoberfläche nicht mehr möglich ist. Die Welt liegt in Schutt und Asche, Bäume existieren nicht mehr, und die Luft besteht aus giftigen Gasen. Die Menschen leben in Forsters Erzählung nicht mehr auf der Erde, sondern in unterirdischen Zimmern. Eine Maschine teilt jedem Menschen, sobald er das Erwachsenenalter erreicht hat, ein solches Zimmer zu. Dort verbringt er den Rest seines Lebens, fast gänzlich von allen anderen isoliert, aber dennoch nicht ganz allein.

Die Menschen nämlich stehen durch die Maschine miteinander im ständigen Kontakt. Dabei erweist sich die Maschine nicht nur als Kommunikationsmedium, sondern sorgt darüber hinaus auch für Nahrung, ausreichend frische Luft, für Musik, Bett und Badewanne. Und mehr noch: Wer sich mit wem fortpflanzen darf, wird von der Maschine entschieden — wobei offen bleibt, ob sich der Fortpflanzungsakt als ein natürlicher oder ein technischer Vorgang darstellt. Welches Kind sich letztlich als hinreichend geeignet erweist, um Leben bleiben zu dürfen, bleibt gleichsam der Maschine überlassen. Und nur die geeigneten Kinder dürfen — fern ab von Mutter und Vater — in Erziehungsanstalten aufwachsen, um anschließend einem frei gewordenen Zimmer zugeteilt zu werden.

Am Ende des Lebens bleibt den Menschen die Möglichkeit, einen Antrag auf „den guten Tod“ zu stellen, der von der Maschine genehmigt oder abgelehnt werden kann.

Direkte, unmittelbare Erfahrungen spielen in Forsters Dystopie kaum eine Rolle. Man versucht, Derartiges zu vermeiden, und ist es trotz allem einmal nötig, schauen sich die Menschen nicht in die Augen und bemühen sich, dass es möglichst zu keinen körperlichen Berührungen kommt. Überhaupt werden die durch Bewegungsmangel beeinträchtigen und im künstlichen Licht herangezüchteten Leiber mit fortgeschrittenem Alter als haarlose, zahnlose, in Tüchern gewickelte Fleischberge bezeichnet.

Es herrscht sehr wohl ein Bewusstsein darüber, dass die alles steuernde und kontrollierende Maschine einst von Menschen erbaut wurde. Aber weder ihre Funktionsweise noch der Umfang ihrer Macht wird begriffen. Gottähnlich spreizt sie sich auf, durchdringt alles, bis sich nach und nach immer mehr Fehler im System auftun. Zunächst ungläubig, später dann hilflos und ohnmächtig schauen die Menschen zu, wie ihre einst durchorganisierte und dabei doch unverstandene Welt in kürzester Zeit zusammenbricht. Am Ende steht die Maschine und damit das Leben der Menschen still.

Was Forster als Maschine beschreibt, ist im Wesentlichen das, was wir gegenwärtig als Computer kennen. Das permanente Vernetztsein und die durch die Maschine stattfindende Kommunikation entspricht dem heutigen Internet, und die automatisiert arrangierte Musik, die Frischluftzufuhr und so weiter deuten auf das, was wir im 21. Jahrhundert mit dem Begriff Internet der Dinge versehen haben. Die Technik aus Forsters Erzählung ist heute im Wesentlichen Realität geworden. In einer Dystopie, in der die Maschine allmächtig geworden ist, leben wir allerdings nicht — so zumindest scheint es.

Die allumfassende Maschine

Schauen wir genauer hin. Im Jahr 1946 wurde mit ENIAC (Electronic Numerical Integrator and Computer) der erste vollelektronische Computer präsentiert. Es handelt sich um eine an der Universität von Pennsylvania entwickelte Rechenmaschine, die mit unseren heutigen Vorstellungen von Computern wenig Ähnlichkeit hat. ENIAC besaß weder einen Bildschirm noch eine Tastatur oder eine Maus, sondern ähnelte vielmehr dem Serverraum eines Großrechners. Wollte man ENIAC programmieren, so betrat man einen Raum, der aus einer beachtlichen Anzahl an Modulen und Kabeln bestand, an denen man körperlich Hand anlegen musste. Programmieren fand in den 1940er-Jahren also tatsächlich im Computer statt.

Das änderte sich spätestens in den 1970er-Jahren. Als der Apple I 1976 für den bemerkenswerten Preis von 666 US-Dollar auf den Markt kam, hatte man es im Grunde mit dem zu tun, was wir heute als Personal Computer (PC) kennen. Der Mensch war beim Bedienen der Maschine nun nicht mehr im, sondern vor dem Computer. Über eine Tastatur wurden Daten eingegeben, und das Gerät als datenverarbeitende Maschine stellte etwas mit diesen Daten an.

Unsere heutigen Computer sind sehr viel leistungsfähiger als ENIAC oder die PCs aus den 1970er-Jahren. Sie sind darüber hinaus auch in kleiner, handlicher Form als Tablets oder Smartphones, das heißt als Mobile Devices vorhanden. Sie begleiten uns zuweilen selbst ins Bett und auf die Toilette. Aber noch immer geben wir Daten in die Geräte ein, und die Geräte machen etwas mit diesen Daten. All das ist zutreffend, aber eben doch nur die halbe Wahrheit.

Längst ist das Internet (fast) allgegenwärtig und das Online-Sein zum Normalzustand geworden. Hinzu kommt, dass wir auch die kleinen, smarten, mobilen Computer mit zahlreichen Sensoren ausgestattet haben, die sich, wann immer man sie lässt, Daten holen und weiterleiten. Selbst Experten wissen kaum darüber Bescheid, welche Daten wann erfasst und an wen diese Daten weitergeleitet werden, auf welchen Servern sie landen, in welchen Ländern diese Server stehen, wie viele Kopien dieser Server existieren, welche Algorithmen diese Daten auswerten, an wen welche Daten weitergeben beziehungsweise weiterverkauft werden, was mithilfe dieser Daten an Steuerungs- und Kontrollprozessen stattfindet und nach welcher Rechtsprechung dies alles im Einzelnen vonstattengeht.

Wir könnten möglicherweise einen Eindruck von einigen der genannten Aspekte erhalten, wenn wir die AGBs sorgfältig durcharbeiten und dies bei jedem Update eines jeden Programms stets mit großer Sorgfalt wiederholen würden. Dass kaum jemand sich diese Mühe macht und der Aufwand darüber hinaus aufgrund des Umfangs, der Komplexität und der nur kurzzeitigen Aktualität der Nutzungsbedingungen auch nur bedingt sinnvoll wäre, liegt auf der Hand. Damit aber müssen wir uns die Frage stellen, inwiefern wir, die wir über einem Jahrhundert nach The Maschine Stops leben, tatsächlich mehr von der Maschine verstehen, wie die Protagonisten in Forsters Erzählung. Anders formuliert und durchaus rhetorisch gefragt:

Können wir, angesichts der Macht der gegenwärtig vorherrschenden Maschine, mit der wir heutigen Menschen es zu tun haben, tatsächlich behaupten, mündig zu sein?

Luciano Floridi, Informationsethiker an der Universität Oxford, sieht in Ansätzen eine Parallele zu den 1940er-Jahren gegeben. Ähnlich wie sich damals der Mensch im Computer aufhielt, um ihn programmieren zu können, sind wir heute als Menschheit wieder im Computer gelandet. Allerdings mit dem wesentlichen Unterschied, dass wir den Computer niemals bewusst betreten haben. Vielmehr haben wir die Welt zu einer mehr und mehr umfassenden und durchdringenden Maschine transformiert. Schon 2015 legte eine im Auftrag des Weltwirtschaftsforums (WEF) durchgeführte Studie des Global Agenda Council on the Future of Software and Society nahe, dass bis 2025 rund eine Billion Sensoren mit dem Internet verbunden sein werden. Hinzu kommt, dass zunehmend als eine Herausforderung erlebt werden kann, Haushaltsgeräte zu erstehen, die nicht in irgendeiner Weise smart, das heißt, mit dem Netz verbunden sind.

Das Projekt Starlink, hinter dem das von Elon Musk geleitete Unternehmen SpaceX steht, hat sich zum Ziel gesetzt, weltweit für eine schnelle Internetverbindung zu sorgen. Bereits Mitte 2021 befanden sich rund 1.700 Starlink-Satelliten im Erdorbit, bis 2027 sollen weitere 12.000 hinzukommen. Zusätzliche 30.000 Satelliten sind bereits beantragt worden. Die Welt, wie wir sie kennen, wird damit mehr und mehr zu einem kybernetischen System. Der Begriff Kybernetik, der in dem Wort Cyberspace immer noch anklingt, ist eine Wortneuschöpfung und geht zurück auf den US-amerikanischen Mathematiker Norbert Wiener. In seinem 1948 erschienenem Buch Cybernetics: Or Control and Communication in the Animal and the Machine betont der MIT-Professor, dass unter Kybernetik drei Aspekte zu verstehen sind: Es geht um Steuerung, um Feedback und um die Verschmelzung von Mensch und Maschine.

Der deutsche Philosoph Gotthard Günther hat etwa ein Jahrzehnt später in Das Bewusstsein der Maschinen. Eine Metaphysik der Kybernetik den Computer als transklassische Maschine beschrieben. Im Unterschied zur klassischen Maschine, zum Beispiel einer Waschmaschine, einer Bohrmaschine oder auch einem Drucker, verändert die transklassische Maschine nicht unmittelbar etwas in der Welt, sondern greift steuernd auf die klassische(n) Maschine(n) zu. Hierfür ein Beispiel: Ein an den Computer angeschlossener Drucker kann erst dann etwas drucken, wenn ein entsprechender Treiber installiert ist. Ein Treiber ist nichts anderes als ein Computerprogramm. Das Wort Programm wurzelt im altgriechischen prógramma und bedeutet Vorschrift. Die eigentliche transklassische Maschine ist daher das Computerprogramm, denn dieses schreibt den angeschlossenen und mit ihm verbundenen Geräten vor, was diese zu tun haben. Das beste Smartphone ist trotz funktionsfähiger, hochleistungsfähiger Hardware zu nichts zu gebrauchen, wenn das Programm nicht (mehr) funktioniert.

Angeschlossen an die transklassische Maschine ist alles, was mit Chips und Sensoren ausgestattet und auf diese Weise vernetzt ist. Bereits im Jahr 2000 hat Raymond Kurzweil, Transhumanist und seit 2012 Leiter der technischen Entwicklung bei Google, eine für damalige Zeiten nach Science-Fiction anmutende Entwicklung prognostiziert. Zunächst werden wir erleben, so Kurzweil, dass die Technik nahe am Körper sein wird, anschließend wird sie in den Körper wandern, und zuletzt werden Nanobots direkt mit dem menschlichen Gehirn verbunden sein. Etwa sieben Jahre nach Kurzweils Ankündigung wurde in den USA die Quantified Self-Bewegung ins Leben gerufen, die sich mittlerweile über den gesamten Globus ausgebreitet hat. Mithilfe von Fitnessarmbänder, Smartwatches und spezifischen Apps werden Körper-, Bewegungs- und Verhaltensdaten erfasst, um auf diese Weise — so die Intention — eine Selbsterkenntnis durch Zahlen zu erlangen. Die ersten Unternehmen produzieren bereits Kleidung mit leitfähigem Garn und integrierten Sensoren. Die Technik ist uns also in Form von Wearables und e-Textiles mittlerweile in der Tat auf den Leib gerückt.

Mitte 2020 veröffentlichte das WEF ein Briefing-Papier und spricht darin von der Zukunft des Internet of Bodies (deutsch: Internet der Körper). Die Erweiterung des Netzes wird im genannten Papier als das „Internet of Nano-Things and Wireless Body Area Networks“ verstanden. Der Körper gilt hier ausdrücklich als eine Technologieplattform, die es zu überwachen, analysieren und modifizieren gilt. Und all das soll nicht erst geschehen, sondern es findet bereits statt, indem längst schon nicht-invasive und wenig-invasive Methoden zum Einsatz kommen.

Zu den nicht-invasiven Varianten gehören die schon erwähnten Wearables — Smartwatches, Fitnessarmbänder, aber auch elektronische Hautpflaster, in die Kleidung vernähte Mikrochips et cetera. Wenig invasiv sind hingegen Smart-Pills, also Tabletten, die mit Chips versehen sind, um Daten aus dem Inneren des Körpers senden und gegebenenfalls an einer ganz bestimmten Stelle ihren Wirkstoff entfalten zu können. RFID-Chips, die in der Regel subkutan in die Hand injiziert werden, Insulinpumpen und smarte Implantate gehören ebenfalls mit dazu.

Der Körper avanciert zum Datenproduzenten, zum Rohstofflieferanten. Und der ständig produzierte und abgegriffene Datenrohstoff wird von sehr großen und sehr einflussreichen Konzernen weiterverarbeiteten und zu Geld gemacht.

Das Internet of Bodies bedeutet aber nicht nur, dass der Mensch Daten produziert, sondern schließt ein, dass auf Basis der produzierten und ausgewerteten Daten Steuerungsprozesse stattfinden. Dies kann durch personalisierte Werbung oder Bildungsangebote erfolgen, zum Beispiel in Form individueller Curricula, die auf die Bedürfnisse und Leistungsfähigkeit der jeweiligen Schüler abgestimmt sind und zudem ständig (on the fly) aktualisiert werden, aber auch durch automatisiertes Aktivieren der Insulinpumpe. Im Ingenieurwesen spricht man von Predictive Maintenance (deutsch: vorausschauende Wartung), womit eine permanente, in Echtzeit stattfindende Kontrolle eines Systems gemeint ist. Das System, von dem im Zuge des Internets of Bodies die Rede ist, heißt Mensch. Und ein Mensch, der als Gegenstand eines solchen kybernetischen Systems verstanden wird, ist ein kybernetischer Organismus (englisch: cybernetic organism) — kurz: Cyborg.

Wir sehen also, dass Kurzweil mit zwei Ankündigungen recht behalten hat: Die Technik ist uns nahe, und sie dringt zunehmend in unseren Körper ein. Inwiefern die Maschine sich via Nanotechnologie direkt mit unserem Gehirn zu verbinden vermag, ist derzeit schwer einzuschätzen. Dass grundsätzlich und ganz ohne Nanotechnologie aus der Ferne auf unser Gehirn zugegriffen werden kann, wurde indessen in den vergangenen Jahren im Rahmen zahlreicher Studien nachgewiesen. Wissenschaftler der Duke Universität im amerikanischen Durham (North Carolina) haben 2014 erfolgreich Probanden unter anderem mithilfe transkranieller Magnetstimulation Gedanken von einem Gehirn zum anderen übertragen lassen. An der Universität von Washington ist es im selben Jahr gelungen, dass ein Mensch per Gedankenkraft — und mithilfe technischer Unterstützung — einen Körperteil eines anderen Menschen steuern konnte, der sich etwa eine halbe Meile entfernt in einem anderen Gebäude befunden hat. In beiden Fällen handelt es sich um Experimente, die nunmehr mehr als sieben Jahre alt sind und deren Ergebnisse in renommierten Fachzeitschriften publiziert wurden.

Die Macht der Maschine

Noch einmal die Frage: Gibt es heute Nanobots, mit deren Hilfe auf das menschliche Gehirn zugegriffen werden kann? Ein solcher Zugriff würde jedenfalls die Frage nach dem freien Willen in besonderer Weise tangieren. Kurzweil, der im Rahmen eines in der Frankfurter Allgemeinen Zeitung veröffentlichten Interviews vor mittlerweile mehr als 20 Jahren genau danach gefragt wurde, unterstreicht: „Ich sage doch nicht, dass wir uns entscheiden können, ob diese Technologien entstehen. Ich sage: Diese Technologien werden mit Sicherheit noch zu unseren Lebzeiten entstanden sein.“ Dass im Vorfeld, das heißt vor der Entwicklung oder vor dem Einsatz einer solchen Technologie ein öffentlicher, von Transparenz getragener und ergebnisoffener Diskurs stattfinden wird, kann in Anlehnung an Kurzweil als unwahrscheinlich angenommen werden.

Das Problem liegt allerdings nicht allein darin, dass es Machtinteressen gibt, die einem solchen Diskurs entgegenstehen. Es besteht vielmehr darin, dass wir in uns selbst diese Macht permanent nähren; und ihre Nahrung erhält sie durch unser verstandesfokussiertes, berechnendes Denken, dass alles begreifen und nichts sein lassen will.

Dieses Denken treibt sich in Form des nahezu alles umfassenden und durchdringenden Computers, dem immer mehr von der Welt — einschließlich des Menschen — ins Netz geht, selbst auf die Spitze. Das berechnende Denken findet sich im Management der Big-Tech-Unternehmen genauso wieder, wie in dem zum Homo oeconomicus herangezüchteten Schul- oder Hochschulabsolventen, von dem erwartet wird, ständig und überall darauf bedacht zu sein hat, den eigenen Marktwert festzustellen und zu erhöhen. Es erscheint dabei nur allzu konsequent, mit Fitnesstracker die körperliche Leistungsfähigkeit bis hin zum Schlafrhythmus erfassen und auswerten zu lassen, auf Social-Media-Plattformen durch entsprechende Posts möglichst viele Likes, Herzen, Thumbs up oder Retweets zu generieren und gegebenenfalls auf Online-Partnerbörsen — durchaus auch während einer Beziehung — den eigenen Marktwert beim anderen (oder wahlweise eigenen) Geschlecht zu überprüfen und zu optimieren.

Wert hat das Fassbare, Sichtbare, Darstellbare, dass idealerweise auf Zahlen, die nur scheinbar für sich sprechen, heruntergebrochen werden kann. Was unbegreifbar ist, was zwischen Sein und Nichts als im wahrsten Sinne des Wortes Interessantes, als Möglichkeit (in Abgrenzung zur Wahrscheinlichkeit) währt, was sich also dem Zugriff grundsätzlich entzieht, wird von unserem Denken zu nichts gemacht und kann daher mithilfe der Maschine, die unser Denken hervorbringt, auch nicht abgebildet werden.

Das verstandesmäßige, berechnende Denken, das nichts außer sich selbst gelten lässt, kann nicht davon ablassen, auf alles Zugreifbare früher oder später auch tatsächlich zuzugreifen. Es duldet kein Seinlassen, es strebt nach Macht um der Macht willen. Das betrifft Elon Musk und Jeff Bezos ebenso wie Lieschen Müller und Hänschen Meier. Und daher hat Kurzweil recht: Die Technologie, die uns direkt über das Gehirn an die Maschine anschließt, wird kommen, weil unsere Bildung und unser Denken diesen Anschluss vorbereiten.

Dieser Artikel erschien auf Rubikon am 23.11.2021 und ist unter einer Creative Commons-Lizenz (Namensnennung – Nicht kommerziell – Keine Bearbeitungen 4.0 International) lizenziert. Unter Einhaltung der Lizenzbedingungen dürfen Sie es verbreiten und vervielfältigen.

Wie aufschlussreich fanden Sie diesen Artikel?

(No Ratings Yet)

Page 1 of 8

First

Last