Programme, die mit generativer künstlicher Intelligenz (KI) arbeiten, können Texte schreiben, Studien zusammenfassen oder Bilder malen. Solche Programme wie ChatGPT oder DALL-E lassen sich aber auch mit gigantischen Datenmengen von Protein- und Genomsequenzen trainieren und lernen so die Sprache der Biologie. Die daraus resultierenden KI-Werkzeuge können biologische Daten analysieren und Vorhersagen treffen. Sie sind aber auch in der Lage, Erbgut- und Proteinsequenzen mit bestimmten Funktionen zu designen. Das können sogar Gensequenzen oder ganze Mikroorganismen sein, wie sie bisher in der Natur nicht vorkommen.

Die Organisation Save Our Seeds (SOS) beschreibt in ihrem Bericht „Wenn Chatbots neue Sorten züchten“, wie weit diese Entwicklung inzwischen gediehen ist und welche Risiken sie mit sich bringt. Der Bericht unterscheidet dabei zwischen verschiedenen Modellen: Proteinmodelle können Eiweiße analysieren, ihr Zusammenwirken simulieren und ihre Funktionen neugestalten. Das berühmteste dieser KI-Modelle heißt Alphafold und gehört dem Datenkonzern Google. Sein Entwickler Demis Hassabis erhielt dafür mit zwei Kollegen 2024 den Chemienobelpreis. DNA-Modelle wurden mit großen Mengen an DNA-Sequenzen trainiert, um dadurch die Sprache der Genome zu simulieren. Laut Bericht gibt es derzeit vier Modelle, die mit Pflanzenerbgut arbeiten. Auch hier gehört das größte Modell, AgroNT, zu Google. Mit den Botenstoffen des Erbguts arbeiten RNA-Modelle. Allerdings wurden die bisher vorgestellten KI-Modelle mit menschlichen RNA-Sequenzen trainiert. Laut Bericht wurden im vergangenen Jahr die ersten KI-Modelle vorgestellt, die in der Lage sind, die Daten von Proteinen, DNA und RNA zu verbinden.

Mithilfe der verschiedenen KI-Modelle lassen sich neue gentechnische Verfahren wie Crispr/Cas präziser und effizienter machen. Denn sie helfen Forschenden dabei, optimale Zielorte und die effektivsten Sequenzen zu finden sowie die am besten geeigneten Crispr-Enzyme auszuwählen. Sie können aber auch die Möglichkeiten von Crispr über herkömmliche Anwendungen hinaus erweitern und tiefgreifende Eingriffe in den Stoffwechsel von Pflanzen ermöglichen. Der Bericht beschreibt das an zwei Beispielen: Das US-Unternehmen TreeCo will mit KI-Hilfe Pappeln so verändern, dass sie weniger Lignin produzieren, das bei der Zellstoffgewinnung stört. Chinesische Forschende wollen mit KI-Hilfe das Eiweiß Patatin in Kartoffeln so verändern, dass sich Kartoffelmehlteig einfacher verarbeiten lässt. Auch „große Saatgutfirmen wie Corteva, Bayer, BASF und Syngenta setzen zunehmend KI-Tools in ihren Gentechnikprogrammen ein. Dabei gehen sie häufig Partnerschaften mit spezialisierten KI-Firmen ein“, heißt es in der Zusammenfassung des SOS-Berichts. Zwar stecke die Entwicklung generativer KI-Modelle für die Genom-Editierung noch in den Kinderschuhen, doch sei zu erwarten, dass diese Technik die Pflanzenzüchtung tiefgreifend verändern werde.

Als größtes Risiko dieser Entwicklung thematisiert der Bericht die schon aus anderen Anwendungen bekannten Schwächen von KI-Modellen: Es ist nicht nachvollziehbar, wie sie zu ihren Vorhersagen und Empfehlungen kommen (Black Box). Sie können Ergebnisse liefern, die plausibel erscheinen, aber sachlich falsch oder irrelevant sind (Halluzinationen). Sie spiegeln immer die Daten wider, mit denen sie trainiert wurden. Und damit auch deren Fehler oder Verzerrungen (Datenverzerrungen). Zudem können diese Modelle ohne große Qualifikationen in Pflanzengenetik oder Molekularbiologie angewandt werden.

„Was sich hier zusammenbraut, ist ein gefährlicher Mix“, warnt SOS-Koordinator Benedikt Haerlin: „Die Konvergenz zweier Risikotechnologien verbindet Schwächen der Genomeditierung wie etwa unbeabsichtigte Veränderungen im Genom mit den bekannten Problemen der generativen KI.“ Dabei sei besonders problematisch, dass die EU die Risikobewertung und Zulassung von mit neuer Gentechnik hergestellten (NGT) Pflanzen streichen will, wenn diese bis zu 20 gentechnische Erbgutveränderungen enthalten. „Der Einsatz generativer KI-Modelle könnte es Entwickler:innen ermöglichen, den 'Designraum' von 20 genetischen Veränderungen vollständig auszuschöpfen, erklärt SOS und warnt, dass dadurch Pflanzen geschaffen werden könnten, die für den Menschen und die Umwelt gefährlich seien. Deshalb solle die EU die grundlegenden Anforderungen ihrer Gentechnik-Gesetze auch für NGT-Pflanzen aufrechterhalten und darüber hinaus „Schritte unternehmen, um die KI-gestützte Gentechnik wirksam zu regulieren“. Die Kontrolle von KI-Technologien, die in der Gentechnik eingesetzt werden, sowie von KI-generierten künstlichen Organismen „ist für die Sicherheit der Forschung und Entwicklung in diesem Bereich entscheidend“, schreibt SOS. [lf]