ウォートン教授、28,000件の19世紀のテキストを用いて訓練されたビクトリア時代の言語モデルを紹介

robot
概要作成中

Headline

ウォートン教授、ビクトリア時代の言語モデルを公開し、他の歴史的時代について疑問を投げかける

Summary

AIについて頻繁に執筆するウォートン大学の教授イーサン・モリックは、「Mr. Chatterbox」についてツイートしました。この言語モデルは、1837年から1899年までの28,000以上のビクトリア時代の英国のテキストをもとにゼロからトレーニングされています。この340百万パラメータのモデルは、Hugging Faceにホストされており、現代のトレーニングデータを一切使わずに19世紀の会話を模倣しようとしています。トリップ・ベンチャラは、nanochatを用いてトレーニングと監督されたファインチューニングを行いました。モリックの問いは、十分にデジタル化されたテキストが存在すれば、このアプローチはルネサンスや啓蒙時代にも応用可能かどうかということです。

Analysis

英国図書館のテキストのみでトレーニングすることは、Mr. Chatterboxが現代の偏見を避けることを意味しますが、ビクトリア時代の偏見も引き継ぎます。私が収集したRedditやGitHubのコメントは賛否両論です—ユーザーはこのモデルがその時代に没入できる点を楽しんでいますが、著者の誤認や誤った旅行時間など、事実を自信を持って間違える点も指摘しています。一人のコメント者は、「奇妙だが魅力的」と評しました。

このプロジェクトは、大規模な独自システムが十分に対応できないニッチを埋める、小規模で専門的なオープンソースモデルの広範な傾向に合致します。本当にビクトリア時代のように聞こえるモデルは、教育や創作に明らかに応用可能です。ただし、その事実の正確性には注意が必要です。

モリックの関心は、実用的なAIの採用に焦点を当てていることから理解できます。他の時代に対して同様のプロジェクトが出現するかどうかは、十分にデジタル化されたパブリックドメインのテキストが存在するかに依存します—これが実際の制約です。このモデルのベータ段階とコミュニティからの批評は、信頼性向上の余地があることを示しています。

Impact Assessment

  • Significance: Medium
  • Categories: AI研究、オープンソース、技術的洞察
原文表示
このページには第三者のコンテンツが含まれている場合があり、情報提供のみを目的としております(表明・保証をするものではありません)。Gateによる見解の支持や、金融・専門的な助言とみなされるべきものではありません。詳細については免責事項をご覧ください。
  • 報酬
  • コメント
  • リポスト
  • 共有
コメント
コメントを追加
コメントを追加
コメントなし
  • ピン