Marc Benioff, der CEO von Salesforce, fordert eine verstärkte Regulierung von KI-Produkten, um durch diese Technologie verursachte Suizide zu verhindern. Er hebt hervor, dass die Risiken unregulierter KI erkannt und adressiert werden müssen, da diese oft Geschwindigkeit und Engagement über Lernen und Wohlbefinden stellen.
Eine aktuelle Studie von Cyera zeigt, dass 83 % der Unternehmen KI in ihren täglichen Abläufen nutzen, jedoch nur 13 % eine starke Sichtbarkeit darüber haben, wie die KI eingesetzt wird. Die Ergebnisse verdeutlichen, dass die Risiken der KI-Nutzung schneller wachsen als die Governance-Strukturen, die deren Kontrolle gewährleisten sollen.
Anthropic hat die „Claude-Konstitution“ vollständig überarbeitet. Das Dokument legt nun neue ethische Prinzipien fest, die sicherstellen, dass Claude „im Allgemeinen sicher“, „im Allgemeinen ethisch“ und „wirklich hilfreich“ ist. Die neue Verfassung wurde auf dem Weltwirtschaftsforum in Davos vorgestellt und ist ein wesentlicher Bestandteil des Trainings von Claude.
Im Jahr 2025 strebte die Trump-Administration mit mehreren Exekutivverordnungen an, nationale KI-Hindernisse abzubauen und einen einheitlichen politischen Rahmen für künstliche Intelligenz zu schaffen.