Der Digitale Besucher im Fokus: Wenn Open Access Kunst auf AI trifft

Wie kann Artificial Intelligence (AI) dazu genutzt werden, Kunst einem breiteren Publikum zugänglich zu machen? Diese Frage stellte das Metropolitan Museum of Art (Met) im Rahmen eines Hackathon, der in Kooperation mit Microsoft und dem Massachusetts Institute of Technology (MIT) stattfand. Grundlage war der Bestand an digitalisierten Kunstwerken, die das Museum Open Access seinen Nutzern zur Verfügung stellt. Gesucht wurden neue Ansätze, um einen Ein- oder Überblick über die umfangreiche Sammlung des Museums zu bieten. Den Nutzern sollte es erleichtert werden, die online verfügbarn Objekte zu durchsuchen, Inhalte zu entdecken und diese zu nutzen – auch in Social Media.

________________

Eines von über 400.000 Werken aus der digitalisierten Sammlung des Metropolitan Museum of Art, das online frei verfügbar ist.
Detail aus: Das Liebeslied, Sir Edward Burne-Jones (18868-77) – Metropolitan Museum of Art – Public Domain

Open Access Kunst und Public Domain als Basis

Im Februar 2017 gab das Metropolitan Museum of Art bekannt, dass es über 375.000 Digitalisate seiner Sammlung via Open Access zugänglich machen wird. Seine gemeinfreien Werke bietet das Museum seit dem in hoher Auflösung zum Download an. Über die Jahre sind mittlerweile Tausende weiterer Werke hinzu gekommen, die frei genutzt werden können – egal ob für wissenschaftliche Zwecke, für die Nutzung in Social Media oder auch für gewerbliche Zwecke. Das Museum erklärte dazu:

„Our core mission is to be open and accessible for all who wish to study and enjoy the works of art in our care. Increasing access to the museum’s collection and scholarship serves the interests and needs of our 21st-century audiences by offering new resources for creativity, knowledge, and ideas.“

Ziel des Metropolitan Museum of Art ist es, die Kunstwerke seiner Sammlung einem möglichst breiten Publikum zugänglich zu machen und die Reichweite der Inhalte des Museums über die Grenzen des physischen Gebäudes hinaus zu erweitern. Das Besondere dabei ist, dass das Museum hierfür Kooperationen einging. Kunstinteressierte müssen nicht erst die Website des Museums besuchen, um Werke zu entdecken. Die Institution stellt entsprechende Werke ihrer Sammlung statt dessen gezielt u.a. in Wikimedia Commons zur Verfügung.

Nun, zwei Jahre nach der Open Access Initiative, suchte das Museum nach weiteren Möglichkeiten, die Werke seiner Sammlung zu nutzen, um ein breiteres Publikum zu erreichen. Auch diesmal ging die Institution wieder Kooperationen ein, diesmal mit Microsoft und dem MIT.

The Met x Microsoft x MIT Open Access AI Hack Teaser – Microsoft via YouTube

Kunstvermittlung auf AI-Basis

Die Ergebnisse des Projektes „The Met x Microsoft x MIT“ wurden Anfang Februar 2019 im Museum vorgestellt. Anlass war der zweite Jahrestag der Open Access Initiative des Museums, in der bisher weit über 400.000 hochauflösende Bilder zur uneingeschränkten Online-Nutzung zur Verfügung gestellt wurden.

Im Rahmen eines Hackathon, bei dem Programmierer und Ingenieure mit Kunsthistorikern und dem Digital-Team des Metropolitan Museum of Art zwei Tage lang eng zusammengearbeitet hatten, waren verschiedene AI-basierte Prototypen entwickelt worden. Alle knüpfen an die digitalisierte Sammlung des Museums an und zeigen, wie Kunst auf spannende Weise zugänglich gemacht und vermittelt werden kann.

Artwork of the Day

Im Projekt „Artwork of the Day“ durchsucht eine AI die Online-Sammlung des Metropolitan Museum of Art tagesaktuell nach Kunstwerken. Damit soll täglich ein anderes Objekt in den Fokus gerückt werden, mit dem sich Nutzer vielleicht sonst nicht beschäftigt hätten. Ausgewählt werden die Kunstwerke anhand von Daten wie Ort, Aktualitätsbezug oder anhand von historischen Daten. Das „Artwork of the Day“ soll dabei spezifisch auf einzelne Nutzer abgestimmt werden, d.h. dass jedem Nutzer ein anderes Objekt der Museumssammlung angezeigt wird. Der Einsatz von AI ermöglicht hier eine Personalisierung, die durch eine von einem Menschen getroffene Auswahl nicht möglich wäre. Ziel des Projektes ist es übrigens, die personalisiert ausgewählten, täglich wechselnden Kunstwerke mittels API mit verschiedenen technischen Geräten zu verbinden, um die Kunst in den Alltag von Menschen integrieren zu können.

Das Angebot „Artwork of the Day“ gibt es übrigens eigentlich schon seit fast 15 Jahren auf der Website des Museums. Hier wurde früher eine kleine Reihe an Kunstwerken im Wechsel angezeigt, die zuvor von Kuratoren ausgewählt worden waren. Die Nutzung von AI ermöglicht nun einen Zugriff auf eine enorme Anzahl an Werken aus der Sammlung, da nun keine Auswahl mehr von Hand getroffen werden muss. Zudem wird jetzt nicht mehr allen Nutzern das selbe Kunstwerk angezeigt, sondern jeder sieht ein individuell ihm zugeordnetes Werk – abhängig von zur Verfügung gestellten Daten.

Der Online-Terminkalender zeigt einen geplanten Spaziergang an? Vielleicht sucht die AI dann dieses Kunstwerk als „Artwork of the Day“ aus?
Detail aus:
Weizenfeld mit Zypressen, Vincent van Gogh (1889) – Metropolitan Museum of Art – Public Domain

Gen Studio

Mit „Gen Studio“ lassen sich die Gemeinsamkeiten zwischen Objekten aus der Sammlung des Museums veranschaulichen. Das System basiert auf Generative Adversarial Networks (GANs). Dadurch können Nutzer Objekte suchen, entdecken und sich mit ihren Beziehungen zueinander beschäftigen. So soll die umfangreiche Sammlung des Metropolitan Museum of Art besser visualisiert werden und letztendlich soll durch das Aufzeigen visueller Beziehungen zwischen Objekten auch ein besseres Verständnis dafür geschaffen werden, wie Kulturen und Stile miteinander verbunden sind.

In sogenannten „Generist Maps“ wird dem Nutzer ein Landkarten-ähnliches Modell angezeigt, das die Strukturen verdeutlicht, welche die Kunstobjekte des Museums miteinander verbinden. Die Karte funktioniert interaktiv, da Nutzer hier verschiedene Objekte digital miteinander mischen können. Eine AI erstellt, anhand der Aktionen des Nutzers, ein digital kreiertes Bild eines neuen Objektes, das es in der Realität nicht gibt. Hier werden verschiedene Stile, Materialien und Formen neu kombiniert – so werden ähnliche visuelle Eigenschaften deutlich, die der Nutzer sonst nie bemerkt hätte. Von diesen Objekten ausgehend, können Nutzer übrigens auch neue Objekte entdecken mittels des Tools „Generative Explorations“.

Screenshot: Gen Studio, 09.02.2019

Screenshot: Gen Studio, 09.02.2019

My Life, My Met

Wie viel Kunst steckt im eigenen Instagram-Account? Das können Nutzer mit „My Life, My Met“ herausfinden. Eine AI analysiert das Instagram-Profil und ersetzt die Fotos jeweils durch ein ähnliches Bild eines Kunstwerks aus der Online-Sammlung des Metropolitan Museum of Art. So lassen sich Kunstwerke entdecken, die direkt Bezug zu den eigenen Instagram-Fotos haben.

Übrigens: Da nur Open Access / Public Domain Bilder angezeigt werden, könnten Nutzer diese sogar ergänzend in ihren Instagram-Accounts posten, ohne sich über Bildrechte Sorgen machen zu müssen.

Vielleicht wird das eigene #catsofinstagram Foto von der AI durch dieses Bild aus der Sammlung des Museums ausgetauscht?
Katze beobachtet eine Spinne, Ōide Tōkō  (1888-92) – Metropolitan Museum of Art – Public Domain

Storyteller

Bei „Storyteller“ können mithilfe einer AI Bilder von Objekten gesucht werden, um eine beliebige Geschichte zu erzählen. Dabei greift das Angebot auf Spracherkennung zurück, d.h. eine AI analysiert einen Dialog oder eine vorgelesene Geschichte und sucht zu genannten Begriffen passende Bilder aus der Online-Sammlung des Museums. Ist eine Geschichte fertig, können die hier zugeordneten Bilder über Social Media geteilt werden oder sogar als gedrucktes Buch bestellt werden. Bisher funktioniert „Storyteller“ in drei Sprachen.

Die Heilige Margaret von Antioch, Frankreich und Gefäß in Form eines Ritters, Hildesheim (ca. 1250)

Wer die Geschichte von „Game of Thrones“ erzählt, braucht als Akteure auf jeden Fall die „Mutter der Drachen“, Daenerys Targaryen, und ihren Widersacher, dem eine Hand fehlt, den „Königsmörder“ Jaime Lennister.
Die Heilige Margaret von Antioch, Frankreich und ein Gefäß in Form eines Ritters, Hildesheim (ca. 1250) – beides Metropolitan Museum of Art, Public Domain

Tag, That’s IT!

Auf die größere Verbreitung von Public Domain Bildern via Wikimedia Commons zielt „Tag, That’s IT!“ ab. Hintergrund des Projektes ist die Überlegung, dass eine sinnvolle Setzung von Schlagworten besonders wichtig ist, damit Nutzer relevante Kunstwerke schnell finden können. Denn nur Open Access Bilder, die von Nutzern leicht gefunden werden können, werden schließlich auch eingesetzt und verbreitet. Hierfür muss aber genau analysiert werden, welche Schlagworte mit einem digitalisierten Objekt verbunden werden müssen.

Durch das Hinzufügen von Keywords des Museums in Wikidata und die Verwendung einer AI zur Generierung genauerer Schlagworte, kann die online verfügbare Sammlung mithilfe der Wikipedia-Community bereichert werden. Letztendlich soll die AI noch besser passende Schlagworte vorschlagen können. Ziel ist es, dass „Tag, That’s IT!“ nicht nur auf die digitalisierte Sammlung des Metropolitan Museum of Art anwendbar ist, sondern dass auch andere Museen weltweit dieses AI-basierte Schlagwort-System nutzen können.

________________

Hackathon made in Germany

Übrigens arbeiten nicht nur amerikanische Museen mit Programmierern zusammen, um neue digitale Wege zu gehen. Auch in Deutschland finden regelmäßig sogenannte Hackathons statt, die an Daten von Kulturinstitutionen anknüpfen. Coding Da Vinci heißt die Veranstaltungsreihe, die seit 2014 in wechselnden Städten in ganz Deutschland stattfindet. Bereits beim Auftakt der Reihe gaben 16 Kulturinstitutionen insgesamt 26 Datensets zur Nachnutzung im Rahmen eines Hackathon frei. Mittlerweile brachten 118 Institutionen ihre Daten in Coding Da Vinci ein und ermöglichten damit spannende, lehrreiche oder einfach spielerische Apps und digitale Angebote.

Im Laufe der Jahre haben sich bereits namhafte Institutionen wie die Deutsche Nationalbibliothek, die Berlinische Galerie, die KZ-Gedenkstätte Neuengamme oder die Historischen Museen Hamburg beteiligt. Auch das MKG – Museum für Kunst und Gewerbe Hamburg stellte seine digitalisierte Sammlung zur Verfügung. Auf Basis dieser Daten entstand 2016 im Rahmen von Coding Da Vinci Nord eine deutsche Konkurrenz zu der Google Arts & Culture App, mit der man via Gesichtserkennung seinen Kunst-Zwilling finden kann. Die Zeitblick-App greift auf digitalisierte Portraits aus der Sammlung des MKG zurück, um zu einem hochgeladenen Selfie per Gesichtserkennung einen passenden Kunst-Doppelgänger zuzuordnen. Die etwas andere Art des #MuseumSelfie.


Header-Bild: Detail aus: Portia, Sir John Everett Millais (1886) – Metropolitan Museum of Art – Public Domain