Devin Coldewey

Because AI is so poorly defined, it’s really easy to say your device or service has it and back that up with some plausible-sounding mumbo jumbo about feeding a neural network a ton of data on TV shows or water use patterns.

This entry was posted in information. Bookmark the permalink.

3 Responses to Devin Coldewey

  1. shinichi says:

    ‘AI-powered’ is tech’s meaningless equivalent of ‘all natural’

    Devin Coldewey

    https://techcrunch.com/2017/01/10/ai-powered-is-techs-meaningless-equivalent-of-all-natural/

    What does artificial intelligence have in common with the price of eggs?

    Say you’re trying to decide between 9 or 10 different varieties of eggs at the store. One catches your eye: “All natural.” Well, that’s nice, natural is good and they’re only 30 cents more — you buy those. Now, those chickens and the eggs they produce may or may not be more natural than the others — because there’s no official or even generally agreed-upon definition of natural. It’s a common ploy to make you pay 30 cents for nothing. That same exact thing is becoming a problem in tech — but with AI.

    There is no official or generally agreed-upon definition of artificial intelligence — if you’re curious about why that is, I wrote a very woolly post called WTF is AI that you might enjoy. But this lack of consensus hasn’t stopped companies great and small from including AI as a revolutionary new feature in their smart TVs, smart plugs, smart headphones and other smart macguffins. (Smart, of course, only in the loosest sense: like most computers, they’re fundamentally dumb as rocks.)

    Now, there are two problems here.

    It’s probably not AI

    The first problem is this: Because AI is so poorly defined, it’s really easy to say your device or service has it and back that up with some plausible-sounding mumbo jumbo about feeding a neural network a ton of data on TV shows or water use patterns.

    “The term is complete bullshit,” said the CEO of a major robotics company that shall remain nameless, but certainly employs in its robots what most would agree could be called AI. It’s a marketing term used to create the perception of competence, because most people can’t conceive of an incompetent AI. Evil, perhaps (“I’m sorry, Dave, I can’t do that”), but not incompetent.

    This recent flowering of AI into a buzzword fit to be crammed onto every bulleted list of features has to do at least partly with the conflation of neural networks with artificial intelligence. Without getting too into the weeds, the two aren’t interchangeable, but marketers treat them as if they are.

    The neural networks we hear so much about these days are a novel way of processing large sets of data by teasing out patterns in that data through repeated, structured mathematical analysis. The method is inspired by the way the brain processes data, so in a way the term artificial intelligence is apropos — but in another, more important way, it’s very misleading.

    AI is a phrase with its own meaning and connotations, and they don’t really match with what neural networks actually do. We may not have defined AI well, but we do have a few ideas. And it’s safe to say that while these pieces of software are interesting, versatile and use human thought processes as inspiration in their creation, they’re not intelligent.

    Yet any piece of software that, at any point in its development, employs a convolutional neural network, deep learning system or what have you, is being billed as “powered by AI” or some variation thereof.

    Now, if even experts can’t say what AI is, what hope is there for consumers? It’s just another item on a list of features and likely as opaque as the rest to the person reading it. But they know AI is high-tech and being worked on by all the big companies, so the product with AI in it must be better. Just like the person choosing “natural” eggs over another brand — one that could just as easily have put that label on their own box, with as little justification.

    And even if it were…

    The second problem is that even if there were some standard for saying what AI is and isn’t, and we were to grant that these systems met it, these aren’t the kinds of problems that AI is good at solving.

    One company, for instance, touted an AI-powered engine for recommending TV shows. Think about that. What insight could emerge from unleashing a deep learning system on such a limited set of data around such a subjective topic? It’s not a difficult problem to determine a recommendation for someone who likes CSI: Miami. They’ll like Person of Interest or something. These aren’t subtle, hidden patterns that only emerge after close scrutiny, or require hours of supercomputer time to figure out.

    And in fact, as Jaron Lanier explained well in The Myth of AI, because the data originates from people — e.g. people who watch this also watch that — the artificial intelligence is completely dependent on human intelligence for all the decisions it makes. People already did the hard part — the development of taste, the selection of what shows they like and don’t like, judging the quality of the episodes, of the acting and direction — and all the computer is doing is searching through human intelligence and returning relevant results.

    Similar claims are made on behalf of IoT devices like thermostats and now shower heads that monitor your use and recommend things or save energy when they know you’re not there. An AI for your home! It tells you when you’re low on milk! It identifies who’s at the door! These are similarly spurious: the data sets are sparse and simple, the outputs binary or highly limited. And just because a device isn’t quite as dumb as the one you’ve been using for 30 years, that doesn’t make it smart. On the contrary, these claims of intelligence are… artificial.

    It’s a fiction cultivated by tech companies that AI meaningfully improves many of these things — in addition to the fiction that it’s AI in the first place. It’s even possible that relying on machine learning is detrimental to their purpose, since the methods by which these models arrive at their conclusions are often obscure.

    This is a bit like another marketing trick often found on egg cartons. Ever seen one that promises that the chickens are raised on an all vegetarian diet? So thoughtful! Problem: chickens aren’t vegetarians, they eat worms and bugs — have done for millions of years. And really, it’s more than likely that taking them off their native diet will negatively affect their livelihood and the quality of the eggs. (Incidentally, what you want is “pasture-raised.”)

    Maybe you’re thinking, okay Mr. Big AI Expert, if none of this counts as AI, what does? And why is it you aren’t so choosy about the term AI when it comes to writing clickbait headlines?

    Well, this is all just my opinion, but when we’re talking about AI as a concept being researched or developed by big companies and universities, it’s okay to stretch the definition a bit. Because what we’re talking about is really a nascent class of software and there’s no sense being pedantic when the ideas fall under the umbrella most people would understand as AI. But when companies use that fundamental vagueness as a deceptive sales pitch, I feel I have to object. And so I have.

    Misleading, exaggerated or outright fabricated feature lists are a hallowed tradition in tech, so this practice is nothing new. But it’s good to point out when a new weasel word enters the lexicon of trend-hunting marketers. Perhaps there will be a day when AI is actually something you’ll look for in a refrigerator, but that day is not today.

  2. shinichi says:

    「AIを搭載」は「全て自然」同様の技術的ナンセンスだ

    by Devin Coldewey

    translated by Sako

    https://jp.techcrunch.com/2017/01/11/20170110ai-powered-is-techs-meaningless-equivalent-of-all-natural/

    人工知能と卵の値段の共通点は何だろうか?

    さて、今あなたはお店で9から10種類の卵からどれかを選ぼうとしている。ある1つがあなたの目を捕える「全て自然(All natural)」。まあ、いいんじゃないかな、自然であることは良いことだし、30セントばかり高いだけだし。ということであなたはそれを買う。さて、そうして選んだ鶏や卵は他のものよりも、より「自然」であるかもしれないし、そうではないかもしれない。なぜなら公式には、それどころか一般的な合意としても、自然に対する定義は存在していないからだ。それは何でもないもののために、あなたに30セント余計に支払わせるための戦略だ。全く同じことが技術でも問題になりつつある…そこにAIを伴って。

    公式には、あるいは一般的に合意された人工知能の定義は存在しない。どうしてそうなのかについて興味が湧いたのなら、WTF is AI(いまさら聞けないAI入門【英語】)という記事を投稿してあるので、楽しんで貰いたい。しかし、こうしたコンセンサスが欠如しているからといって、大小様々な企業がAIを革新的な機能として取り込むことを止めるわけではない。そのスマートテレビ、スマートプラグ、スマートヘッドフォン、その他のスマートなガジェットに対しての取り込みを(ここで言う「スマート」とは、もちろんもっとも緩い意味で使われている。多くのコンピューターのように、彼らは岩のように使えない代物なのだ)。

    ここには2つの問題がある。

    それはおそらくAIではない

    最初の問題はこれだ。AIは非常に曖昧に定義されているため、あなたのデバイスなりサービスなりがそれを持っていると言うのは本当に簡単だ。そしてテレビ番組や水利用パターンの膨大なデータをニューラルネットワークを供給するから、どうしたこうしたというもっともらしい響きを持つちんぷんかんぷんで、それをバックアップするのだ。

    「それは完全にデタラメな用語です」と言うのは、名前は明かさないがある有名ロボット会社のCEOだ。とはいえそのロボットの中には多くの人がAIと呼んでもおかしくはないものが採用されている。それは有能さの認識を生み出すために用いられるマーケティング用語なのである。何故ならほとんどの人は無能なAIを想像することができないからだ。邪悪なことはあり得ても(「申し訳ありません、デイブ、私にはそれはできません」(訳注:「2001年宇宙の旅」に出てくるAIの台詞))、無能なことはありえない。

    最近機能リストに詰め込まれている、こうしたバズワードとしてのAIの大活躍は、部分的には人工知能と結びついたニューラルネットにその原因がある。深入りしてみなくとも、この2つは同じものではないのだが、マーケティング担当者達はまるで両者が同じようなものであるような扱いをする。

    最近私たちが耳にするニューラルネットワークとは、数学的分析を通じてデータのパターンを解きほぐすことによって、大量のデータを処理する斬新な方法である。この方法は、脳がデータを処理する方法に触発されているので、人工知能という用語が当てはまる1つの文脈に沿っているとは言える。しかし他のより重要な文脈では、とても誤解を招きやすいものでもある。

    人工知能は、独自の意味や含意を持つ用語であり、それらはニューラルネットワークが実際に行うものとは一致しない。私たちはAIを十分には定義できていないかもしれないが、いくつかのアイデアは持っている。そして、これらのソフトウェアは興味深く、汎用性があり、作成に当たって人間の思考プロセスからインスピレーションを得てはいるものの、それらは知的ではないと言っても過言ではない。

    また開発のどこかの時点で、畳み込みニューラルネットワークだろうが、ディープラーニングシステムだろうが、手持ちの何かが使われた場合には、そのソフトウェアは「AIを搭載」の類であると謳われることになる。

    何しろ専門家でもAIが何かを言うことができないのだ、消費者に何を期待できるというのだろうか?それは単なる機能リストの1項目に過ぎず、他の部分同様に、読む人にとっては不透明なものである可能性が高い。しかし、彼らはAIがハイテクの産物だと知っているし、大企業によって採用が続いていることも知っている。なのでAIを搭載する機器は良いものに違いない。ちょうど「自然」卵を他のブランドに優先して選ぶ人のようだ。たいした正当性もないままに安易にラベルが箱に貼られただけかも知れないものを。

    そして、もしそれがあったとしても…

    第2の問題は、何がAIであり何がそうでないかを決めるような、ある程度の基準が仮にあったとして、私たちがあるシステムがその基準に合致すると認めたとしても、AIによるソリューションが適さない種類の問題が存在するということだ。

    例えばある企業は、テレビ番組を推薦するAI搭載エンジンを売り込んでいる。それについて考えてみよう。そうした主観的なトピック周辺で得られる限られたデータセットに、ディープラーニングシステムを適用することで、一体どんな洞察が得られるのだろうか?「CSI:マイアミ」を好きな人への推薦を決めることは難しいことではない。彼らは「PERSON of INTEREST 犯罪予知ユニット」やその類のものを好むだろう。これらは、精査の後にやっと明らかになったり、把握のためにはスーパーコンピュータを何時間も使ったりしなければならないような、微妙で隠れたパターンではない。

    そして実際、Jaron LanierがThe Myth of AI(AIの神話【英語】)で適切に説明したように、データは人間に由来するので(例えば「これを見たひとは、こちらも見ています」といったもの)、人工知能は、それが下す全ての判断に関して完全に人間の知性に依存しているのだ。嗜好の発見、何を好み何を好まないかの選択、エピソード・演技・演出の品質の判断といった難しい部分は、人間が既に済ませている。そしてコンピューターがしていることといえば、人間の知性を検索して関連性の高い結果を返していることだけなのだ。

    同様のことは、あなたの使用状況をモニターして何かを推薦したり、あなたがそこにいないことを知ったときにエネルギーを節約する、サーモスタットやシャワーヘッドのようなIoTデバイスにも当てはまる。AIをあなたの家庭にもどうぞ!牛乳が少なくなっていることを教えます!誰がドアの前にいるのかを識別します!これらも、同様に見せかけのものだ。データセットはまばらでシンプル、出力は2値、または非常に限られたものに過ぎない。そして、あるデバイスが、あなたが過去30年間使用してきたものほどは無能ではないという理由だけで、それがスマートだということにはならない。逆に、知能に対するこれらの主張は実に… 人工的だ。

    AIが多くのものを有意義に改善できるというのは、ハイテクカンパニーが作り上げたフィクションなのである、ついでに言うならばそもそもAIそのものがフィクションなのだ。こうしたモデルが結論に到達する方法はしばしば不明瞭であるため、機械学習に依存することは彼らの目的にとって有害である可能性すらある。

    これもまた、しばしば卵の容器に見られるようなマーケティングトリックの1つなのだが…これまでに、この卵を産んだ鶏は皆菜食主義で育成されている、という主張を見たことがあるだろうか?さあ思慮深くなろう!問題は鶏は菜食主義者ではないということだ、彼らは何百万年もの間ミミズや虫を食べて生きて来た。そして、実際には、生来の食生活を奪うことは、生活と卵の質に悪影響を及ぼす可能性が高い。(ついでに言えば「放牧で育てられた(pasture-raised)」も類似の宣伝文句だ)。

    多分今あなたはこう考えていることだろう、よしわかったミスターAIエキスパート殿、もしこれらのどれもがAIではないというなら、何がそうなのか?それに私が、クリックを誘うような見出しを書く段になると、AIという用語にうるさく言わないのは何故なのか?

    まあ、これはすべて私の意見に過ぎないのだが、私たちが大企業や大学によって研究開発されている、概念としてAIの話をしているときには、少々定義を拡大してみても構わないと思う。そこで私たちが話題にするのは本当に芽生えつつある段階のソフトウェアなので、多くの人がAIとして理解するような傘の下に収まるアイデアに対して、細かくあげつらうことには意味がない。しかし企業がその本質的な曖昧さを目眩ましの宣伝文句に使うときには、私は反対の声を挙げるべきだと考えている。だからそうしたのだ。

    誤解を招き、誇張され、あるいは完全にでっちあげられた機能リストは、ハイテク業界における神聖なる伝統なので、こうした動きも目新しいものではない。しかし、新しい胡散臭い言葉が、トレンドを血眼で追うマーケティング担当者の語彙に加わろうとするときに、きちんと指摘しておくことは良いことだ。おそらくいつかは冷蔵庫の中に本当にAIを見出す日も来るだろう。しかしそれは今日ではない。

Leave a Reply

Your email address will not be published.