単体のGPUでもGPT-3などの大規模言語モデルを処理できる「FlexGen」が登場



GPT-3などの大規模言語モデルを処理するには高い計算量とメモリが必要なため、通常は複数のハイエンドなAIアクセラレーターが求められます。この処理を、メモリ16GBのNVIDIA Tesla T4やメモリ24GBのNVIDIA GeForce RTX 3090など、メモ

from Pocket https://gigazine.net/news/20230222-flexgen/
via IFTTT

このブログの人気の投稿

Belkin、コンパクトながら100W PD充電に対応した4ポートUSB-Cハブ｢Connect USB-C to 4ポートUSB-Cハブ｣を発売

イメージ
本日、ベルキンが、たった56gでコンパクトながら、100W PD充電に対応したUSB-Cハブ「Connect USB-C to 4ポートUSB-Cハブ」を発売しました。 本製品は、4つのUSB-Cポートを搭載し、カメラ/ウェブカメラ、キーボード、マウス、外部SSD from Pocket https://taisy0.com/2023/05/31/172336.html via IFTTT
続きを読む

温暖化で海面上昇するとどこが水没するか一発で分かる地図「Flood Maps」レビュー、未来の日本の海岸線はどうなっているのか？

イメージ
近年の研究により、地球温暖化がもたらす海面上昇の深刻さは従来の想定の4倍以上だということが判明していることから、特に沿岸部の都市や島国では対策がこれまでより一層急務だとされています。温暖化で海面上昇す from Pocket https://gigazine.net/news/20220115-flood-maps-review/ via IFTTT
続きを読む

ウェブサイトのユーザーを識別する「フィンガープリント」は考えられている以上にタチが悪いかもしれない

イメージ
ウェブサイトはユーザーが後日アクセスしてきたときに識別できるようCookieを利用しており、閲覧履歴に基づいて広告が表示されます。しかし、FirefoxなどにはCookieをブロックして追跡させないようにする保護機能が搭載さ from Pocket https://gigazine.net/news/20230323-web-fingerprinting/ via IFTTT
続きを読む