ニーズ

機械学習モデルは、転移学習の恩恵を受けています。 コンピューター ビジョンでは、大規模なデータセットでトレーニングされたニューラル ネットワークは、他のビジョン タスクのモデルを初期化するのに役立ちます。 転移学習の手法を文章にどう活用できるでしょうか。

アイデア

非常にドメイン固有な質問があり、ドキュメントから最良の答えを得たいとします。 何千ものドキュメントを読み、AI を使用してその質問に最適な文脈と推論で答えを得ることはできないでしょうか?

ソリューション

研究者は Reasoning Network (ReasoNet) と呼ばれるニューラル ネットワークを使用して、文章を読む際の人間の推定プロセスを模倣します。 ReasoNet は質問を念頭に置いてドキュメントをスキャンし、回答が得られるまでさまざまな部分に焦点を当てます。

機械読解に関する技術的な詳細

MRC では、文脈とクエリの間の複雑な相互作用のモデリングが必要です。 研究者は、Reasoning Network (ReasoNet) と呼ばれるニューラル ネットワークを使用して、人間が文章を読む際の推論プロセスを模倣することができました。

ReasoNet は質問を念頭に置いてドキュメントを繰り返し読み、満足のいく答えが見つかるか形成されるまで、ドキュメントのさまざまな部分に焦点を合わせます。 Microsoft の研究者は、「R-NET: Machine reading comprehension with self-matching networks」と呼ばれるユニークな MRC アルゴリズムを使用して、SQuAD データセットの人間レベルのパリティを超えることができました。 R-NET は、Self-Matching Attention 機構を適用して、文節をそれ自体と照合することにより表現を改善し、その文節全体からの情報を効果的にエンコードします。

これらの MRC アルゴリズムを Brad Smith と Harry Shum の共著『Future Computed』に適用したとき、非常に多くの興味深い質問に答えることができたことに驚きました。 これを適用すると、企業データの課題を解決し、企業ドメイン固有の質問に答えることができます。

リソース:

AI の可能性を探る

Microsoft AI の学習リソースと開発ソリューションで、独自の AI イノベーションをすぐに始めることができます。