単体のGPUでもGPT-3などの大規模言語モデルを処理できる「FlexGen」が登場



GPT-3などの大規模言語モデルを処理するには高い計算量とメモリが必要なため、通常は複数のハイエンドなAIアクセラレーターが求められます。この処理を、メモリ16GBのNVIDIA Tesla T4やメモリ24GBのNVIDIA GeForce RTX 3090など、メモ

from Pocket https://gigazine.net/news/20230222-flexgen/
via IFTTT

このブログの人気の投稿

温暖化で海面上昇するとどこが水没するか一発で分かる地図「Flood Maps」レビュー、未来の日本の海岸線はどうなっているのか？

イメージ
近年の研究により、地球温暖化がもたらす海面上昇の深刻さは従来の想定の4倍以上だということが判明していることから、特に沿岸部の都市や島国では対策がこれまでより一層急務だとされています。温暖化で海面上昇す from Pocket https://gigazine.net/news/20220115-flood-maps-review/ via IFTTT
続きを読む