Prof. Kochupillai, Sie haben sich intensiv mit nachhaltiger Landwirtschaft befasst. Bei AI4EO geht es um Erdbeobachtung. Was haben beide Fachgebiete für Sie gemeinsam?

Es ist die Auseinandersetzung mit Ethik in der Künstlichen Intelligenz. Ich habe zunächst Mittel und Wege zur Förderung einer nachhaltigen Landwirtschaft und zum Schutz der Agrobiodiversität erforscht, also der biologischen Vielfalt in der Landwirtschaft. Dabei habe ich festgestellt, dass neue Technologien wie Blockchain und KI dazu beitragen können.

Wie haben Sie sich dann den ethischen Fragen der KI in der Erdbeobachtung genähert?

Zu Beginn des Projekts habe ich viele Gespräche mit den Mitgliedern des Teams von Prof. Zhu geführt, danach auch mit Forschenden aus anderen Labors. Ich wollte genau verstehen, was sie tun und wo die Herausforderungen und Grenzen ihrer Ansätze und Methoden liegen.

Was kam bei diesen Gesprächen heraus?

Erfreulicherweise bin ich auf echtes Interesse an ethischen Fragen gestoßen. Andererseits habe ich aber auch festgestellt, dass die meisten Kolleginnen und Kollegen, darunter auch sehr erfahrene, keine Vorstellung davon hatten, wie oder warum sie ethische Fragen einbeziehen sollten – vor allem wenn sie Grundlagenforschung betreiben.

Für ethische Fragestellungen macht es einen großen Unterschied, ob wir über Grundlagenforschung ohne eine bestimmte Anwendung nachdenken, oder ob wir eine spezielle Anwendung im Sinn haben. In den verschiedenen Stadien der Forschung – von der Grundlagenforschung bis zur angewandten Forschung – gibt es unterschiedliche ethische Fragen und Möglichkeiten. Deshalb müssen wir uns durch alle Forschungsstadien hindurchdenken. Je spezifischer die Anwendung, desto konkreter die ethischen Fragen. Gleichzeitig müssen ethische Fragen bereits in einem frühen Stadium der Forschung identifiziert und angemessen behandelt werden. Bei AI4EO besteht das Ziel darin, verschiedene UN-Ziele zur nachhaltigen Entwicklung zu unterstützen. Die Arbeit ist also nicht mehr anwendungsneutral, sondern anwendungsspezifisch.

Welche konkreten Fragen leiten Sie daraus ab?

Unsere Fragen beziehen sich auf die Art und Quelle von Daten in der Erdbeobachtung, ihren Kennzeichnungsprozess, die Speicherart und den Speicherort, aber auch den Zugang zu den Daten und die Analysemethoden. Zu jeder dieser Ebenen können wiederum weitere ethische Fragen entstehen. Ich entwickele zusammen mit dem Team ein Schema, um den komplexen Lebenszyklus der in einer typischen AI4EO-Anwendung verwendeten Daten zu verstehen.

Außerdem helfen wir Forschenden bei der Bewertung der Fragen, die ihrer Forschung zugrunde liegen. Wir wollen feststellen, ob etwaige unethische Folgen und Bedenken in der Art und Weise, wie die Forschung durchgeführt wird, bereits in der frühesten Phase der Forschung berücksichtigt werden können. Eine konkrete Frage wäre beispielsweise: Welche ethischen Fragen und Möglichkeiten ergeben sich, wenn wir aus dem Weltraum die Funktion eines Gebäudes oder den Grad der biologischen Vielfalt auf einem landwirtschaftlichen Feld bestimmen wollen?

Wie gehen Sie dabei vor, welchen Ansätze verfolgen Sie?

Wir stellen die vorherrschenden ethischen Theorien auf den Prüfstand. In der westlichen Philosophie beispielsweise stammen solche Theorien aus „pflichtbezogenen“ (deontologischen) Ansätzen der Ethik oder aus „konsequenzbezogenen“ (konsequentialistischen) Ansätzen. Wir erforschen ethische Theorien aus verschiedenen Regionen der Welt, um neue Ansätze zu finden. 

Bei den neu entstehenden Technologien wie bei AI4EO lassen sich die vorherrschenden ethischen Ansätze nur schwer anwenden. Die Forschenden sind sich ihrer Pflichten und der möglichen künftigen Folgen ihrer Forschung nicht vollständig bewusst. In einer solchen Situation müssen wir über Maßnahmen nachdenken, die jetzt ergriffen werden können, um negative ethische Folgen zu minimieren und positive Folgen zu maximieren. Gewissermaßen müssen wir dabei in eine Kristallkugel schauen, denn wir wissen noch nicht genau, welche Themen in Zukunft auf uns zukommen werden. Wir müssen also Entwicklungen vorhersagen und uns vorstellen, was passieren könnte.

Was war Ihr erstes Arbeitsergebnis?

Ich habe mich mit vier AI4EO-Forschenden verschiedener Erfahrungsstufen zusammengetan und ein Tutorial über ethische Fragen und Möglichkeiten in der AI4EO-Forschung verfasst. Dieses Paper enthält eine systematische Erklärung der Ethik mit vielen Beispielen aus aktuellen Themen der AI4EO-Forschung.

Die fachübergreifende Forschung ist ein wesentlicher Bestandteil der Internationalen Zukunftslabore. Wie sieht diese bei AI4EO in der Praxis aus?

Es gibt eine Herausforderung bei AI4EO in dieser Hinsicht, die mit der EU-Politik in der Landwirtschaft zusammenhängt. Im Rahmen des „Green Deal“ liegt ein großer Schwerpunkt auf der nachhaltigen Landwirtschaft und Agrarökologie, einem Landwirtschaftssystem, das übrigens in Indien hoch entwickelt ist und von einer schnell wachsenden Zahl von Landwirten systematisch angewendet wird. Diese Entwicklung der letzten zwei Jahre stellt das AI4EO-Team vor neue Aufgaben. Im Sinne der nachhaltigen Landwirtschaft muss es eine neue Art von Forschungsfragen stellen als bisher. Hier ist ein hohes Maß an fachübergreifender enger Forschung gefragt, zwischen AI4EO sowie Forschenden der Agrarökologie und nachhaltiger Landwirtschaft.

Mit welchen Hindernissen haben Sie in Ihrem Forschungsalltag zu kämpfen?

Derzeit enthalten die meisten AI4EO-Paper kaum Inhalte zur Ethik. Einige Forschende befürchten, dass dies zur Ablehnung ihrer Arbeit führen könnte. Diese Einstellung muss sich ändern. Fachzeitschriften sollten Forschungsarbeiten verlangen, in denen Ethik im Vordergrund steht und stolz darauf sein, diese zu veröffentlichen. Um sicherzustellen, dass Ethik in die AI4EO-Forschung integriert wird, ist ein Kulturwandel innerhalb der Institutionen erforderlich, bei dem ihre Leitenden den Schwerpunkt auf Ethik legen – hier muss ein Umdenken herbeigeführt werden.

Auf welche Quellen greifen Sie bei Ihrer Arbeit zurück?

Die Ethik hat ihre Grundlagen in der Philosophie. Deshalb beschäftige ich mich immer wieder mit der Philosophie aus verschiedenen Teilen der Welt. Ich bin aber auch mit dem traditionellen Wissen Indiens aufgewachsen, mit Ayurveda und Yoga. Daher versuche ich in meiner Forschung, immer wieder das Alte, das Traditionelle mit dem Neuen zusammenbringen. Meine Doktorarbeit begann mit dem Zitat des Friedensbotschafters Sri Sri Ravi Shankar: „Das Leben ist wie ein Baum: So wie die Wurzeln eines Baumes alt und die Äste neu sind, so braucht auch das Leben beides – alte Weisheit und modernes wissenschaftliches Wissen.“

Auch wir brauchen eine Kombination aus alter Weisheit und neuer Technologie. Beides können wir in der Forschung zusammenbringen. Ethisch betrachtet würde das auch zu einer besseren und einer nachhaltigeren Welt beitragen. Denn die alte Weisheit enthält auch immer den Gedanken der Nachhaltigkeit, damit wir sowohl füreinander als auch für die ganze Welt sorgen. Wir sehen jetzt in der ganzen Welt ein wachsendes Interesse an dieser traditionellen Weisheit und am nachhaltigen Wachstum.

Prof. Kochupillai, vielen Dank für das Gespräch.

- Das Interview führte Olga Gilbers -