Посмотрел анализ от @Mira_Network, который говорит очень прямо: настоящая опасность на самом деле заключается в "предвзятости" ИИ. Проще говоря, галлюцинации — это когда ИИ говорит что-то неправдоподобное, это когда модель говорит уверенно, но неправильно, это "случайные ответы"; но предвзятость — это другое, это систематическая "склонность к ошибкам", это глубокое искажение. Например, она всегда склоняется к определенной политической позиции или всегда бессознательно более "доброжелательна" к определенным группам людей, это не случайные ошибки, а фундаментальный уклон. Как если бы мы смотрели на стрелка: галлюцинации похожи на несколько промахов, а предвзятость — это когда вся группа стрел попадает в одну сторону. На поверхности галлюцинации более заметны, но предвзятость — это действительно скрытая проблема, влияющая на направление ИИ. Mira подняла ключевой момент: мы сейчас слишком спешим добиваться "точности", игнорируя "аккуратность". ИИ может отвечать логично, но если направление изначально неверное, то никакая точность не поможет. Лично мне кажется, что это похоже на то, как мы раньше настраивали алгоритмы, слишком акцентируя внимание на краткосрочных результатах, игнорируя долгосрочные последствия. Предвзятость ИИ в конечном итоге будет незаметно влиять на общественное восприятие и принятие решений, возможно, даже более опасно, чем галлюцинации. Поэтому, если ИИ действительно должен стать инструментом человечества, проблему предвзятости нужно решить раньше, чем галлюцинации. Мы не можем просто смотреть, как красиво он говорит, но должны обратить внимание на то, влияет ли он молча на наше восприятие мира. Это может быть самой большой проблемой эпохи ИИ. Ключевое в том, что на @KaitoAI есть активность в рейтингах, а проекты на @arbitrum также очень популярны, можно также обратить внимание на $ENERGY $SHOUT $Bane $Chao $BOOM $666 на @shoutdotfun.