東大松尾研、日英対応の大規模言語モデル公開　100億パラメータ、精度は「国内オープンソース最高水準」東京大学院工学系研究科・松尾研究室(主宰:松尾豊教授)は8月18日、日英の2カ国語に対応した100億パラメータサ...

試作モデルの返答例。質問に対する回答ではなく、文章の続きを生成する 存在しない「本居宣長」に関する映画について、映画のあらすじや、その映画にまつわるプロモーション活動に関するテキストが創作されている例...

LLaMaやFalconといった小型の大規模言語モデル(LLM)が矢継ぎ早にリリースされる中、Microsoft ResearchのAI研究チームが、プレプリントサーバーのarXivで、Transformerベースのモデル「phi-1」を発表しました。この...

GPT-1は1億1700万個のパラメーターを持つ言語モデルで、GPT-2では15億、GPT-3では1750億とパラメーター数が増加するにつれて言語モデルの性能が上がってきています。しかしパラメーター数が増加するにつれてトレーニ...

Facebookが、URLに埋め込まれるパラメーターのフォーマットを変更したことが明らかになった。一部ブラウザーが実装したパラメーター削除機能への対策とみられる。これまでFacebookでは、ユーザーを追跡するためのパ...

九大、固体電解質中のイオン輸送能を大きく変化させる隠れパラメータを発見九州大学(九大)は6月10日、見かけ上同等である試料に潜む熱力学的な差異が固体中のイオン輸送を時には1桁ほど変化させ得ることを、ナトリウ...

1億6300万のコアで120兆個のAIパラメーターをトレーニング可能なモンスターマシン「Cerebras CS-2」が発表される シリコンバレーのチップ製造スタートアップ・Cerebras Systemsが2021年8月24日に、1枚のシリコンウェ...

中国の研究チームが新たなAI「悟道2.0」を発表、パラメーター数は1兆7500億でGoogleとOpenAIのモデルを上回る中国政府による資金援助を受けている北京智源人工知能研究院が主導する研究チームが2021年6月1日、新たな...

Study shows first evidence of winds outside black holes throughout their mealtimes New research shows the first evidence of strong winds around black holes throughout bright outburst events when a bla...

山本一郎(やまもといちろう)です。私も油断すると顎やお腹の下のほうが二重になります。気を付けたいものです。ところで、昨今盛んに騒いでいた蓮舫女史(本名:村田蓮舫・48)の二重国籍問題ですが、厳密に言えば国籍...

今も膨張を続ける宇宙。その宇宙の果てには、宇宙が生まれたばかりの頃にできた星や銀河が存在しています。そしてその宇宙の果てを見つめるハッブル宇宙望遠鏡が、「これまでで最も遠く、最も古い銀河」を発見しまし...