Generatieve AI is ineens overal. De bekendste is natuurlijk Chat-GPT, maar ook Google, Microsoft, Facebook en andere grote bedrijven vallen bijna over elkaar heen om zo snel mogelijk overal AI in te stoppen. Deels een beetje hype, maar AI doet natuurlijk ook echt indrukwekkende dingen.
Een grote valkuil blijft echter dat AI soms "hallucineert". De chatbot doet dan hele stellige uitspraken die simpelweg niet kloppen. Wt vroeg ChatGPT: "What can you tell me about the band TANK86?" Dat is de band waar Wt zelf jarenlang in heeft gespeeld en die nu niet meer bestaat. Obscuur genoeg om niet algemeen bekend te zijn, maar genoeg over te vinden op het web, spotify, etc. Dus goede kans dat er info over is meegenomen in de trainingsdata van de bot). Ik kreeg dit uitgebreide antwoord:
Tank86 is a post-metal band hailing from the Netherlands. The band was formed in 2006 and consists of members Dwin (guitar), Ruud (guitar), Dirk (bass), and Max (drums). They are known for their heavy and atmospheric sound, blending elements of post-rock, sludge metal, and stoner rock.
Tank86's music is characterized by massive, downtuned riffs, intricate guitar work, and powerful, dynamic drumming. They create expansive soundscapes that range from crushing heaviness to melodic passages, often incorporating elements of doom and progressive metal into their compositions. Their songs are instrumental, meaning they do not feature any vocals, allowing the music to speak for itself.
The band released their debut album, "Rise," in 2010, which received critical acclaim and helped establish their presence in the underground metal scene. The album showcased their ability to create a dense, atmospheric sonic experience while maintaining a sense of groove and melody. Tank86's music is often described as cinematic, with their compositions evoking a sense of grandeur and emotion.
Following the success of their debut, Tank86 released their second album, "Obey," in 2015. This album further refined their sound and showcased their growth as musicians. It expanded on their heavy and expansive style, incorporating more progressive elements and showcasing a wider range of dynamics.
Tank86 has built a reputation as a formidable live act, delivering powerful and intense performances. They have performed at various festivals and shared the stage with notable bands within the heavy music scene.
While there might not be extensive information available about the band beyond their music, Tank86 has garnered a dedicated following and continues to captivate listeners with their unique blend of post-metal, sludge, and stoner influences, creating a sonic experience that is both heavy and mesmerizing.
Een overtuigend stukje beschrijving die op hoofdlijnen zeker klopt. De muziekstijl klopt, de titels en jaartallen van de albums kloppen, ik herken zinnige stukken uit recensies en promoteksten etc. Maar er staat ook regelrechte onzin tussen. De bandleden heten Joost, Jochum, Rogier en Harold (alle 4 fout dus). De band is opgericht in 2004 en niet in 2006, etc.
Dat is het gevaar van deze techniek. Het klinkt plausibel en overtuigend, het klopt heel aardig. Maar er staat ook regelrechte onzin in en die haal je er niet uit als je niet weet waar je het over hebt. En je gebruikt AI nu juist om je te helpen bij iets wat je nog niet (helemaal) weet. De betrouwbaarheid van het overtuigend gebrachte antwoord is lastig te verifiëren.
Hoe komt dit nu? Waar komt die overtuigende onzin vandaan? Daarvoor moet je begrijpen hoe zo'n chatbot eigenlijk werkt onder de motorkap. Op Tweakers staat er een goed artikel over die dat begrijpelijk, maar diepgaand genoeg uitlegt.
Concreet voorbeeld hoe het in de echte wereld tot problemen kan leiden: Amerikaanse advocaten gestraft na citeren door ChatGPT verzonnen zaken
Wt vind het een bijzondere ontwikkeling. Ik ben onder de indruk en zie een hoop mooie mogelijkheden, maar ik houd er ook steeds een ongemakkelijk gevoel aan over. De tijd zal het leren...