アルゴリズムが攻撃的になるその他の例については、ここをクリックしてください。
アルゴリズムを使用してスローガンを作成できるからといって、それが期待どおりの結果になるとは限りません。
これは、Amazonで販売を行う小売業者Solid Gold Bombが今週、販売ページで不快なTシャツが発見された際に学んだ教訓だ。これらのTシャツは、数年前から流行している「落ち着いて、続けよう（Keep Calm and Carry On）」というスローガンの「パロディ」だった。ただし、これらのバージョンには不快で女性蔑視的なキャッチフレーズが書かれていた。「落ち着いて、レイプをやめろ」「落ち着いて、彼女をナイフで刺せ」など。これらのTシャツはその後、店舗から撤去された。
一体誰があのシャツが良いアイデアだと思ったんだ？
実は、誰が選ばれたかは不明だった。スローガンと形容詞や動詞を組み合わせ、勝者を決めるアルゴリズムが使われていたのだ。Tシャツのデザインは自動的に生成され、Amazon UKのページに掲載された。もし誰かが特定のデザイン（例えば「Keep Calm And Dance Off」など）を探しているなら、Solid Gold Bombがオンデマンドで印刷し、玄関先まで届けてくれるだろう。
Solid Gold BombのCEO兼創設者マイケル・ファウラー氏は、Sold Gold Bombのウェブサイトで次のように説明した。
単語、スローガン、スタイル、色、サイズの組み合わせは数百万にも及ぶため、クラウド型の環境で膨大な数のコンピューターを用いて、この作業をすべて行いました。最終的に生成されたファイルリストがベースデータとなり、問題の核心は、特定の単語が単独でも組み合わせても不快な印象を与える、あるいは不快な印象を与えるようになったという事実でした。このため、20万2千語から約1100語に絞り込み、最終的には文字数と、元のスローガンの見た目をグラフィックで忠実に再現したかったため、700語強が使用されました。
つまり、「レイプ」「ナイフ」「殴打」といった言葉がアルゴリズムの混乱に巻き込まれ、不快なTシャツのデザインが吐き出されてしまったようです。つまり、ファウラー氏は確かに不快な言葉を見逃していたということです。彼はアルゴリズムのせいにするのではなく、その見落としについて謝罪しました。これは評価に値します。
これらすべてを見ると、アルゴリズムはひどいビジネス投資のように聞こえます。アルゴリズムは消費者が何を求めているかを判断できないほど愚かで、その結果は最悪の場合不快、良く言えば滑稽なものさえあります。アルゴリズムを使った服飾サイトIdakoosは私たちのお気に入りの一つです。「Kiss Me I'm An Agronomist.」は滑稽ですが、「I Love Motionless Girls.」はもう少し不気味です。
これらの企業の背後にいる人々が理解しているのは、常に勝者を生み出すアルゴリズムは必要ないということです。必要なのは、ランダムに1つか2つの勝者を生み出すアルゴリズム、あるいは1つか2つしか購入されない数千枚のTシャツを生み出すアルゴリズムだけです。このようなプロジェクトのオーバーヘッドはごくわずかです。部屋に集まってTシャツのアイデアを議論する必要もなく、誰かが購入するまでTシャツは印刷されないため、売れないTシャツを何千枚も印刷するリスクもありません。アルゴリズムが盲目的に壁にぶつかり、運が良ければうまくいくだけです。
そして、これらのスパムボットはいずれ賢くなるでしょう。どの商品が最も売れているかを考慮し、それに応じて調整することで、市場にとって合理的な判断を下せるようになるでしょう。しかし、少なくとももうしばらくは、重大なミスを修正するには人間の手が必要になるでしょう。
