ディープラーニングやAIの欠点とは？特徴や仕組み、欠点に対する対応策を解説

AIとは「Artificial Intelligence」の略で、人間の知能と同等の機能を持つコンピューターのシステムのことです。ただし、AIの定義は明確になっておらず、専門家の間でも統一された見解が定まっていません。

AIの種類は、一部の領域に特化して作業する「特化型AI」と、さまざまな領域に幅広く対応する「汎用型AI」の2つに大別できます。ディープラーニングは、AIを作るために利用される技術のひとつです。

人間と同じ知能をもたせるために、コンピューターに学習させる方法です。機械学習には、人間があらかじめ正解のデータを教える「教師あり学習」や、正解のないデータからコンピューターが学習しながらパターンや特性を見つける「教師なし学習」などがあります。

機械学習の技術は、迷惑メールの自動振り分けやスマホなどの顔認識システム、ユーザーからの問い合わせに対応するチャットボットなど、幅広い分野で活用されています。

必要なデータがそろっていなかったり、データ量が不足していたりすれば、正確な答えを導き出すことはできません。ディープラーニングはゼロから学習を始め、データをもとにして正解を探します。たとえば、画像認識の場合、最低でも万単位のデータが必要と言われています。

この欠点を補うため、データを安く入手する目的でクラウドソーシングのビジネスが盛んであったり、データの水増し（データ拡張）の技術が採用されたりしています。

ディープラーニングやAIを活用してデータを分析しても、導き出された答えの根拠がわからないといった問題があります。「ブラックボックス問題」と呼ばれており、場合によっては大きな課題になることもあります。

たとえば、根拠がわからないままAIの判断を採用すれば、関係者に納得してもらえない可能性があります。また、誤った推論に気づかず、業務において致命的なミスを誘発する恐れもあるでしょう。近年では、このブラックボックス問題を解決する方法が研究されており、実装も始まっています。

​分析の精度を上げるには、学習と分析結果の評価が必要です。わずか数%の精度を上げるためのメンテナンスに、それまでの10倍のコストがかかる場合もあります。

人間が行う操作の中で発生する細かいミスすらも、ディープラーニング全体に影響を与えてしまいます。人為的ミスが発生する可能性をゼロにするのは難しく、問題が発生したら修正や調整が必要となります。精度の維持・向上のための学習と検証、人的ミスが発生した際のリカバリなどがあるたびに、その分のコストが必要となります。

また、高度な学習を行うためには、高価な計算環境が必要です。現在では低価格のクラウドサービスなどもあるので、うまく導入・運用してコストの軽減につなげるとよいでしょう。

ニューラルネットワークには、新しいデータの学習を始めると、過去に学習した内容をリセットしてしまう「破局的忘却」と呼ばれる欠点があります。たとえば、最初に「自動車」のデータについて学習させ、次に「飛行機」のデータを学習させれば、自動車に関する内容は失われるといった問題です。

AIは人間の知能に似た機能がありますが、人間の感情は理解できません。そのため、相手の心理を理解しなければならないリーダーやマネジメントの業務を担うのは難しいです。倫理観による判断も困難なため、教師や保育士など教育に関する仕事をこなすのも現時点では不可能です。

現在、人間の顔の表情や声のトーン、テキストなどからその人の気持ちを分析する研究が進められています。

ディープラーニングやAIを導入するときは、欠点や弱点についてよく検討した上で最終的な判断をしましょう。ディープラーニングはあくまでもAIを開発するためのひとつの手法です。ディープラーニングの導入が目的にならないように注意してください。場合によっては、ディープラーニングを使わない手法でAIを開発するという選択もできます。

ディープラーニングを導入したりAIを開発したりするには、多くのリソースとコストがかかります。リソースには、GPUをはじめとするマシンリソースだけでなく、設定や開発を進めるデータエンジニアやデータサイエンティストなどの人的リソースが必要です。設備投資や人材の確保には、決して安くはないコストがかかります。

自社の状況によっては、無理にディープラーニングやAIを取り入れるのではなく、他のツールの導入を検討してもよいでしょう。

ディープラーニングにおける破局的忘却を防ぐ対策として、復習または疑似リハーサルがあります。復習は、過去に覚えたものを反復して覚えさせる方法です。疑似リハーサルは、いくつかのパターンを用意してデータを与えることで、学習内容を紐付けする方法です。

2016年にはDeepMind社が次世代のニューラルネットワークであるDNCを発表し、破局的忘却を克服する可能性があるとして注目されました。2017年には、Google社のAI開発チームがEWCという破局的忘却の対応策を提唱しています。

AIは人間が設定したプログラムに基づいて作業しているにすぎないため、人間とまったく同じ思考ができるわけではありません。AIを取り入れるとしても、社会規範や倫理に関する最終的な判断は人間が行うべきです。

Amazon社では人材採用にAIを活用していましたが、女性より男性を採用すべきという判断を下していることが明らかになりました。この判断は女性差別になると問題になり、Amazon社は人材採用におけるAIの運用を中止しました。