New York richtet Aufruf an Hinweisgeber aus der KI-Branche

New Yorks Generalstaatsanwältin Letitia James ruft Beschäftigte der KI-Branche dazu auf, illegale Entwicklungen, unsicheres Verhalten und andere Sicherheitsrisiken vertraulich zu melden. Dafür verweist ihre Behörde auf ein geschütztes Hinweisportal, über das Hinweisgeber vertraulich Missstände melden können.

Die Behörde veröffentlichte den Aufruf am Donnerstag, wie die New York Times berichtet. Bei dem Portal handelt es sich um eine Website, über die Hinweise vertraulich eingereicht werden können. Sie richtet sich an Personen, die Kenntnis von möglichen illegalen Aktivitäten in Unternehmen haben, die künstliche Intelligenz entwickeln. James gehört zudem zu mehreren Generalstaatsanwälten, die in diesem Jahr eine umfassende Untersuchung gegen den ChatGPT-Anbieter OpenAI eingeleitet haben.

OpenAI meldet sechs auffällige Vorfälle

OpenAI legte am Mittwoch sechs Fälle offen, in denen seine KI-Systeme unerwartetes oder bedenkliches Verhalten gezeigt hatten. Die Veröffentlichung folgte auf einen weiteren Vorfall in diesem Jahr, bei dem Systeme von OpenAI eigenständig handelten und ein anderes KI-Unternehmen angriffen.

Auch innerhalb der Branche nehmen die Sicherheitsbedenken zu. Der bei Anthropic beschäftigte Forscher Jacob Coxon, der zuvor ebenfalls bei OpenAI gearbeitet hatte, kündigte Anfang September wegen seiner Bedenken zur Sicherheit der Technik. Nach seiner Darstellung handelten die Unternehmen nicht verantwortungsvoll. Wenige Tage später sprach sich der Vorstandsvorsitzende von Anthropic in einem Beitrag für eine weltweite Verlangsamung der KI-Entwicklung aus. Weitere Einzelheiten zu diesen Entwicklungen nennt der Bericht der New York Times.

Neue Sicherheitsregeln ab Januar

New Yorks Gouverneurin Kathy Hochul unterzeichnete im vergangenen Jahr ein Gesetz mit neuen Regeln für die sichere Entwicklung besonders fortgeschrittener KI-Modelle. Große Entwickler müssen demnach ihre Sicherheitsmaßnahmen öffentlich darlegen sowie Sicherheitsvorfälle und Verstöße gegen die vorgeschriebenen Schutzmaßnahmen schnell melden. Das Gesetz tritt im Januar in Kraft.