Ik heb een analyse van @Mira_Network gelezen, die heel direct is: het echte gevaar is eigenlijk de "vooringenomenheid" van AI. In eenvoudige termen, hallucinaties zijn wanneer AI onzin praat, het model zegt iets met zelfvertrouwen maar het is niet juist, dat is "onzinnig antwoord"; maar vooringenomenheid is anders, het is een systematische "tendentiële fout", een diepgewortelde scheefheid. Bijvoorbeeld, het neigt altijd naar een bepaalde politieke positie, of het is onbewust vriendelijker tegenover bepaalde groepen mensen, dit is niet af en toe een fout, maar een fundamentele scheefheid. Het is zoals wanneer we naar een boogschutter kijken, hallucinaties zijn als het een paar pijlen mist, vooringenomenheid is als de hele set pijlen aan één kant afwijkt. Op het eerste gezicht zijn hallucinaties meer opvallend, maar vooringenomenheid is het echte verborgen probleem dat de richting van AI beïnvloedt. Mira heeft een cruciaal punt naar voren gebracht: we zijn nu te snel op zoek naar "nauwkeurigheid", terwijl we "precisie" negeren. AI kan antwoorden geven die logisch lijken, maar als de richting vanaf het begin al scheef is, maakt het niet uit hoe precies het is. Persoonlijk voel ik dat dit lijkt op hoe we vroeger algoritmes afstelden, te veel gefocust op kortetermijnprestaties en de langetermijneffecten negeerden. De vooringenomenheid van AI zal uiteindelijk onopgemerkt de sociale cognitie en besluitvorming beïnvloeden, mogelijk gevaarlijker dan hallucinaties. Dus, als AI echt een hulpmiddel voor de mensheid wil worden, moet het probleem van vooringenomenheid eerder worden opgelost dan hallucinaties. We kunnen niet alleen kijken naar hoe mooi het klinkt, maar moeten ook kijken of het ons stilletjes beïnvloedt in hoe we de wereld zien. Dit zou wel eens de grootste uitdaging van het AI-tijdperk kunnen zijn. Het belangrijkste is dat er een ranglijstactiviteit is op @KaitoAI, en de projecten op @arbitrum zijn ook erg populair, je kunt ook kijken naar $ENERGY $SHOUT $Bane $Chao $BOOM $666 op @shoutdotfun.