Галлюцинации LLM: запретить нельзя использовать

Давайте поговорим о "галлюцинациях" LLM (больших языковых моделей) — генерации несуществующих фактов в уверенной подаче. Обычно их считают багом и стараются подавить через дообучение и фильтры. Однако недавнее исследование Why Language Models Hallucinate , 2025, показывает, что сама система оценивания поощряет модели угадывать, а не честно признавать неопределённость. Я попробовала разобрать, могут ли такие "галлюцинации" быть функциональной интуицией и как превратить их в инструмент идей.

https://habr.com/ru/articles/947964/

#ии #галлюцинирование_нейросетей #промт #llm #языковые_модели #трансформеры #нейросети #достоверность #reasoning

Киберэкономика. Пределы роста

В современном мире цифровая киберэкономика становится неотъемлемой частью глобальной экономики, трансформируя способы ведения бизнеса, взаимодействия и обмена информацией. С развитием технологий, таких как искусственный интеллект и нейросети, открываются новые горизонты для инноваций и оптимизации процессов. Однако с этими возможностями приходят и серьезные вызовы, среди которых одной из наиболее актуальных проблем является фальсификация цифровой информации. Нейросети, обладая способностью генерировать убедительные тексты, изображения и даже видео, которые с каждым днем становятся все более реалистичными даже для экспертов, ставят под угрозу достоверность данных, доверие к цифровым ресурсам и репутацию лиц, принимающих решения.

https://habr.com/ru/articles/874440/

#правда #достоверность #достоверность_информации #фактчекинг #репутация #киберэкономика #блокчейн #веб3 #фейк #теория_игр

Манифест Киберправды

Данный текст является ответом на опубликованную накануне «Оду бесполезности споров» с целью рассказать о проекте, который намерен принципиально решить проблему анализа достоверности информации в Интернете и оценки репутации ее авторов. Я считаю, что новые никогда ранее не существовавшие децентрализованные технологии дают нам возможность наконец найти ответ на извечный вопрос «Что есть истина?», которым уже почти две тысячи лет задается человечество.

https://habr.com/ru/articles/802419/

#Доверие #Достоверность #Репутация #Фактчекинг

20 лучших научных журналов и новостных изданий

Научные журналы - одни из самых авторитетных и надежных источников информации в мире. Но в условиях враждебного отношения к науке какие издания остаются на вершине? После начала пандемии Ковид-19, климатического кризиса и технологического бума люди стали более настороженно относиться к источникам научной информации. Именно поэтому сейчас как никогда важно найти лучшие научные журналы, предоставляющие достоверную, обновленную и точную информацию. Именно поэтому в нашем списке лучших научных журналов и новостных изданий представлены самые надежные имена в этой отрасли. Большинство из того, что Вы найдете в этом списке, не станет для Вас сюрпризом. Но всегда полезно знать, как обстоят дела.

https://habr.com/ru/articles/779562/

#журнал #научный_журнал #издание #статья #наука #достоверность #информация #новости