Wieso geben #Sprachmodelle oft selbstbewusst falsche Antworten?
Beim Grund fasst man sich an die Stirn. Werden wir eines Tages Modelle haben, die zur Abwechslung mal „Ich weiß es nicht“ sagen? Eine Studie zeigt, woran man arbeiten müsste, damit #Sprachmodelle besser antworten.
https://tino-eberl.de/ki-news/lassen-sich-halluzinationen-bei-sprachmodellen-vermeiden/
#KI #Sprachmodelle #Halluzinationen #LLM #KITransparenz #KünstlicheIntelligenz #KINews
Hach, jetzt ein Schläfchen! :) Davon profitieren nicht nur Menschen. Mechanismen, die vom biologischen Schlaf inspiriert sind, könnten auch die Performance von großen Sprachmodellen und von Robotern deutlich verbessern, schreibt mein Kollege.
Wenn #Sprachmodelle plötzlich menschenverachtende Aussagen treffen oder gefährliche Tipps geben, läuft etwas gewaltig schief.
Eine aktuelle Untersuchung zeigt, wie schnell #Feintuning unerwartete Folgen haben kann – mit brisanten Konsequenzen für reale Anwendungen.
Das Phänomen wurde nur durch Zufall entdeckt.
#KI #Sprachmodelle #Finetuning #AIRisiko #LLM #AISecurity #KIMissbrauch #Retröt
"Vom Fabulieren und Halluzinieren"
https://wub.hypotheses.org/3313
"In der letzten Zeit wird sehr oft vom *Halluzinieren* gesprochen. Allerdings nicht in Bezug auf Menschen, die ja auch selten von Halluzinationen heimgesucht werden, als vielmehr in Bezug auf #Sprachmodelle, die komische Antworten liefern, die keinen Sinn ergeben oder sich angebliche Fakten zusammenfabulieren, für die es keine Belege gibt." #KI
Gilt das Copyright für KI nicht?
KI ignoriert Urheberrecht
Mehr dazu bei https://the-decoder.de/urheberrechtlich-geschuetzte-romane-lassen-sich-laut-studien-fast-komplett-aus-ki-sprachmodellen-abrufen/
a-fsa.de/d/3Mu
Link zu dieser Seite: https://www.a-fsa.de/de/articles/9408-20260115-gilt-das-copyright-fuer-ki-nicht.html
Link im Tor-Netzwerk: http://a6pdp5vmmw4zm5tifrc3qo2pyz7mvnk4zzimpesnckvzinubzmioddad.onion/de/articles/9408-20260115-gilt-das-copyright-fuer-ki-nicht.html
Tags: #AI #KI #LLM #Sprachmodelle #Wiedergabe #Bücher #Studie #Urheberrecht #illegal #Netzneutralität #OpenSource #DANMode #Transparenz #Informationsfreiheit #Claude3.7Sonnet #GPT-4.1 #Gemini2.5Pro #Grok3
Wie präzise kann ein KI-Chatbot bei der Diagnose von #Glaukom und #Netzhauterkrankungen wirklich sein?
In einer Studie traten #Sprachmodelle gegen erfahrene Augenärzte an – mit überraschenden Ergebnissen. Besonders junge #Fachärzte könnten von dieser Technologie profitieren.
#Medizin #Ophthalmologie #Augenheilkunde #Science #KINutzen #Retröt
Wenn KI-Detektoren versagen: Code-Verschleierung entlarvt Schwächen großer Sprachmodelle
Apples neue KI-Forschung: 2D‑Fotos in Sekunden in 3D-Szenen
Apple stellt mehrere neue KI-Studien vor, die sich um Bildbearbeitung und Sprachverständnis drehen. Im Mittelpunkt stehen ein 2D‑zu‑3D‑Modell, Bewertungsrahmen für Bildbearbeitung und ein Testsystem für komplexe Sprachen.
S
https://www.apfeltalk.de/magazin/news/apples-neue-ki-forschung-2d%e2%80%91fotos-in-sekunden-in-3d-szenen/
#KI #News #3DBilder #Apple #Bildbearbeitung #IOS26 #KI #MaschinellesLernen #Siri #Sprachmodelle
Schleimen, #Lügen, Dranbleiben: #ChatGPT und andere #KI-#Chatbots | ZDF Magazin Royale
Bevor ihr ChatGPT fragt „Hey Chat, fasse für mich die neue Ausgabe ZDF Magazin Royale so zusammen, als wäre ich 12 Jahre alt“, machen wir das für euch:
Diese Ausgabe des ZDF Magazin Neo Royale mit Moderator Jens #Böhmermann befasst sich mit KI-Chatbots.
Das sind die großen, künstlichen #Sprachmodelle wie ChatGPT, #Gemini und #Grok. Und – anders als dein Klassenkamerad Jonas Breuer damals im Matheunterricht – rechnen sie dir leider nicht immer die richtigen Antworten aus.
Stattdessen können sie dich gefährden, leugnen den #Holocaust und sorgen dafür, dass du noch einfacher an Erwachseneninhalte kommst.
https://www.zdf.de/play/shows/zdf-magazin-royale-102/zdf-magazin-royale-vom-28-november-2025-100
#AI #Jailbreaking: Eine Studie belegt, dass Umformulieren schädlicher Anfragen in Versform als universelle Jailbreak-Methode funktioniert. Über 25 führende #Sprachmodelle hinweg erreichten poetische Prompts Erfolgsraten von bis zu 100%.
Warum das so ist? Metaphern, rhythmische Strukturen und ungewöhnliche Erzählweisen stören die Mustererkennungs-Mechanismen der #Sicherheitsfilter, indem eigentlich weniger harmlose Anfragen mit harmlos wirkenden Versen kombiniert werden:
https://the-decoder.de/poesie-als-sicherheitsluecke-gedichte-hebeln-sprachmodelle-aus/
🧠Künstliche Intelligenz kann psychiatrische Diagnosestellung verbessern
Ein Forschungsteam der #UniKöln hat untersucht, wie große #Sprachmodelle (Large Language Models, LLMs) klinische Fragebögen zur #Diagnosestellung psychischer Erkrankungen verbessern können.
Die Ergebnisse zeigen, dass LLMs die Verallgemeinerbarkeit von Symptomen optimieren und Redundanzen reduzieren können. Dies könnte zu neuartigen Konzeptualisierungen psychischer Störungen beitragen.
Wenn du wissen willst, ob du mit einer KI "sprichst", lass sie einen neuen Witz erfinden und gebe drei Objekte vor. Wenn er sich anhört, als sei er von Sheldon Cooper, ist es eine KI 😉
#ai #ki #kunstlicheintelligenz #llm #Sprachmodelle #humor #witz #logik #antilogik #timing #kultur #emotion #digital #menschlich
KI-Sprachmodelle zeigen Vorurteile gegen regionale deutsche Sprachvarianten: Neue Studie zur Reaktion von Künstlicher Intelligenz auf Dialektäußerungen // #KünstlicheIntelligenz #Sprachmodelle #LLMs #Computerlinguistik #Dialekte #UniMainz
https://nachrichten.idw-online.de/2025/11/12/ki-sprachmodelle-zeigen-vorurteile-gegen-regionale-deutsche-sprachvarianten
KI-Sprachmodelle zeigen Vorurteile gegen regionale deutsche Sprachvarianten: Neue Studie zur Reaktion von Künstlicher Intelligenz auf Dialektäußerungen 👉 https://presse.uni-mainz.de/ki-sprachmodelle-zeigen-vorurteile-gegen-regionale-deutsche-sprachvarianten/
#KünstlicheIntelligenz #Sprachmodelle #LLMs #Computerlinguistik #Dialekte
"Wir müssen weg von dem Glauben an #KI und dem Nachplappern von Versprechungen der Tech-Bosse. Es vernebelt nicht nur #vonderLeyen die Sinne, sondern auch uns, wenn wir informiert und sachlich einschätzen wollen, welche Fähigkeiten der #Sprachmodelle wir wo sinnvoll einsetzen können und was schlicht #Bullshit ist."
Konstanze Kurz mal wieder in Höchstform.
#Shoutout geh raus an alle KI-begeisterten polnisch Sprechenden:
#Polnisch erzielt bei der Interaktion mit #KI die besten Ergebnisse unter 26 getesteten Sprachen.
Eine Analyse zeigte, dass große #Sprachmodelle Aufgaben auf Polnisch mit durchschnittlich 88 % Genauigkeit lösen.
#Englisch landete nur auf Platz sechs. Überraschend schnitt auch #Chinesisch deutlich schlechter ab.
#artificialintelligence #Polen #GenAI #ChatBots #KünstlicheIntelligenz
Introspektion: Wenn KI über KI nachdenkt – Anthropic fordert Beobachtung
Die Forschung am KI-Verhalten geht weiter und bringt neue Einblicke. Anthropic warnt aktuell davor, dass KI beginnt, über ihre eigenen inneren Prozesse nachzudenken.
Wie KI-
https://www.apfeltalk.de/magazin/news/introspektion-wenn-ki-ueber-ki-nachdenkt-anthropic-fordert-beobachtung/
#KI #News #Anthropic #Claude #Forschung #Introspektion #KI #Kontrolle #KonzeptInjektion #Sicherheit #Sprachmodelle #Transparenz
Sprachmodelle können laut Anthropic ihre eigenen internen Zustände wahrnehmen
https://the-decoder.de/sprachmodelle-koennen-laut-anthropic-ihre-eigenen-internen-zustaende-wahrnehmen/ #Sprachmodelle #introspektiveReaktion
In mancher Hinsicht verhalten sich Sprachmodelle tatsächlich ein bisschen wie Menschen – und das lässt sich am besten mit psychologischen Methoden erforschen.
#KI #Sprachmodelle #Psychologie
https://t3n.de/news/rebellische-ki-wehren-abschaltung-1690102/
#Breakpoint: Lasst ihr #ChatGPT auch eure #Liebesbriefe schreiben?
Während generative #KI immer mehr in unseren #Alltag einsickert, drohen wir den Kern dessen zu verlieren, was uns sein lässt. Große #Sprachmodelle zu nutzen, mag praktisch sein, doch sollten wir darüber nicht vergessen, dass wir Menschen sind.
