Ani robot není neomylný, zvláště když se pohybuje v teritoriu bez přesně vymezených hranic. Projevilo se to například při pondělním požáru katedrály Notre-Dame.
Automat, který má na YouTube rozpoznávat videa s konspiračním obsahem nebo falešnými zprávami, některá z nich špatně vyhodnotil.
První záběry z hořící katedrály, které se na této síti objevily, totiž systém na YouTube propojil s událostmi 11. září 2001. To se podle serveru The Verge stalo i u přímých přenosů známých televizních stanic, jako jsou například CBS, NBC News, či France 24. Důvodem bylo, že systém vyhodnotil záběry jako problematickou zprávu. Naopak u zpravodajství kanálů jako ABC News, Fox News a jiných se toto nestalo.
Diváci tak u postižených přenosů spolu s živým vysíláním mohli sledovat i informační panel s údaji o útocích z New Yorku, který se objevoval v šedém rámečku kolem. YouTube tímto způsobem dodává ověřené informace ke zprávám, které se zdají být konspirační nebo falešné.
Why in the world is @YouTube putting information about 9/11 underneath the Notre Dame livestream from @FRANCE24? (Especially since it seems like, at least right now, ongoing renovations are the most likely cause, no indication of terror) https://t.co/A3HP36epxx https://t.co/ZheCMC5pcG
I když u požáru katedrály Notre-Dame nebylo podezření na teroristický útok nebo jiný kriminální čin, systém tyto zcela nesouvisející události propojil. Automat k vybraným záběrům přidal výše uvedenou informaci a v podstatě tak varoval, že záběry nemusí být zcela v pořádku.
„Loni jsme spustili informační panely s odkazy na zdroje třetích stran jako Encyclopaedia Britannica a Wikipedia pro oblasti, které jsou předmětem dezinformací. Tyto panely se spouštějí na základě automatického vyhodnocení a naše systémy je někdy zařadí špatně. Nyní je pro živé vysílání související s požárem deaktivujeme,“ odpověděla mluvčí YouTube na dotaz serveru niemanlab.org.
