ゆるコンピュータ科学ラジオ
ゆるコンピュータ科学ラジオ
Kategorier: Teknologi
Lyssna på det sista avsnittet:
【PR】NordVPN
下記のリンクからお申し込みいただくと、サブスクリプション費用が大幅割引！さらに今なら4か月分が延長されます。30日間の全額返金保証もあるので、この機会にぜひお試しください。
▼詳細はこちらから https://nordvpn.com/yurucomputer
▼クーポンコード yurucomputer *クーポンコードはチェックアウト時にご入力ください
*上記URL経由では自動でクーポンが反映されます
AI技術者は泥臭い努力まみれでした。「データ王に俺はなる！！！」「大規模言語モデルに必要な子守りと学校教育」「泥臭い努力でデータの泥を取り除く」など、大規模言語モデル研究者たちの努力について話しました。
【ことラボ】
◯Twitter → https://x.com/KotoLaboRyo
◯YouTube → https://www.youtube.com/@kotolabo
【目次】
0:00 データ王に俺はなる！！！
1:02 コモン・クロールは海賊王の上位互換
5:30 データの泥を取り除く
16:58 大規模言語モデルの子守りは大変
20:54 大規模言語モデルにも学校教育が必要
25:23 泥臭い努力が大きなものを生む
29:51 一番恥ずかしい思いをしたのはどっち？
【参考文献】
◯大規模言語モデル
◯大規模言語モデル開発における日本語 Web 文書のフィルタリング手法の検証（榎本 et al., 言語処理学会 2024）
https://www.anlp.jp/proceedings/annual_meeting/2024/pdf_dir/P8-6.pdf
→動画内で紹介した「意味がありそうでない文字列」はここから。
◯ONE PIECE
◯ichikara-instruction LLMのための日本語インストラクションデータの作成
https://www.anlp.jp/proceedings/annual_meeting/2024/pdf_dir/A6-3.pdf
◯ゲンロン戦記
【サポーターコミュニティへの加入はこちらから！】
https://yurugengo.com/support
【親チャンネル：ゆる言語学ラジオ】
【実店舗プロジェクト：ゆる学徒カフェ】
【おたよりフォーム】
※皆様からの楽しいおたよりをお待ちしています！
【お仕事依頼はこちら！】
info@pedantic.jp
【堀元見プロフィール】
慶應義塾大学理工学部卒。専門は情報工学。WEBにコンテンツを作り散らかすことで生計を立てている。現在の主な収入源は「アカデミックに人の悪口を書くnote有料マガジン」。
【水野太貴プロフィール】 名古屋大学文学部卒。専門は言語学。某大手出版社で編集者として勤務。言語学の知識が本業に活きてるかと思いきや、そうでもない。
【姉妹チャンネル】
Tidigare avsnitt
-
131 - 現代のAIは24時間体制の「子守り」が必要？ 開発者の泥臭い努力を聞く回【大規模言語モデル3】#131Sun, 30 Jun 24 0 - 0h
-
130 - 【数えるだけ】AIが単語を理解するトリックが巧妙すぎる【大規模言語モデル2】#130Sun, 23 Jun 24 0 - 0h
-
129 - 大規模言語モデルはただの遷移図。実際に作って理解しよう！【大規模言語モデル1】#129Sun, 16 Jun 24 0 - 0h
-
128 - おもしろ半分で技術ブログを読もう！！【Qiita基調講演】#128Sun, 09 Jun 24 0 - 0h
-
127 - 【大いなる罠】プログラミング言語の意味論を勉強したら7時間がムダになった#127Sun, 02 Jun 24 0 - 0h
-
126 - マグカップのフタが買えなくて、技術に絶望した話。シンギュラリティは遠い。#126Sun, 26 May 24 0 - 0h
-
125 - 機械式コンピュータの挫折。その原因は、凡庸な人間ドラマだった。【バベッジ2】#125Sun, 19 May 24 0 - 0h
-
124 - 歯車でコンピュータを作った男。目的は、命を救うこと。【バベッジ1】#124Sun, 12 May 24 0 - 0h
-
123 - 【悲報】イノベーションは加速していなかった。1880年代が黄金期。#123Sun, 05 May 24 0 - 0h
-
122 - ムーアの法則は誤解だらけ。元論文を読んだら全然違う主張だった。#122Sun, 28 Apr 24 0 - 0h
-
121 - 索引の発明者はサイコパス。人間性を捨てることで生まれた大発明【索引の歴史】#121Sun, 21 Apr 24 0 - 0h
-
120 - 大人の勉強は「夢の中」が主戦場。寝ながらマクロを書くといい【Lisp雑談】#120Sun, 14 Apr 24 0 - 0h
-
119 - Lispの勉強をしたら『葬送のフリーレン』と同じカタルシスが待っていた。【Lisp2】#119Sun, 07 Apr 24 0 - 0h
-
118 - 【検証】40時間Lispを勉強したら信者になれる？【Lisp1】#118Sun, 31 Mar 24 0 - 0h
-
117 - 人間工学キーボードを買ったら左手がクサくなった【PC周辺機器雑談】#117Sun, 24 Mar 24 0 - 0h
-
116 - パスワード管理ムズすぎ。セキュリティの専門家が考える対策は？#116Sun, 17 Mar 24 0 - 0h
-
115 - OSに学ぶタスク管理術。300個のタスクを同時にこなすには？【OS2】#115Sun, 10 Mar 24 0 - 0h
-
114 - 思考のOSはアップデートできない。OSの本懐は「資源管理者」。【OS1】#114Sun, 03 Mar 24 0 - 0h
-
113 - たった7文字に熱狂する。心震えるドメインの世界。#113Sun, 25 Feb 24 0 - 0h
-
112 - Lispはなぜ狂信者を生むのか？ その答えは、奇妙な出自。【ポール・グレアム3】#112Sun, 18 Feb 24 0 - 0h
-
111 - プログラミング言語への愛があれば、未来予知できるし50億稼げる【ポール・グレアム2】#111Sun, 11 Feb 24 0 - 0h
-
110 - 伝説のIT起業家からボロ儲けの技術を学ぶ。◯◯すれば50億稼げるらしい【ポール・グレアム1】#110Sun, 04 Feb 24 0 - 0h
-
109 - ネット回線を重視しない不動産業界にキレる。光コンセントを図面に入れてほしい。#109Sun, 28 Jan 24 0 - 0h
-
108 - プログラミングの基礎を習得したので、相方botを制作してみる#108Sun, 21 Jan 24 0 - 0h
-
107 - 「x=x+1」の見え方は、プログラミング経験で180度変わる【プログラミング体験2】#107Sun, 14 Jan 24 0 - 0h
-
106 - 機械オンチ28歳、初めてのプログラミングに挑戦。右クリックができなくて詰む。【プログラミング体験1】#106Sun, 07 Jan 24 0 - 0h
-
105 - 物流に革命を起こす「フィジカルインターネット」がすごい。ヤマトと佐川が一緒に運ぶかも。#105Sun, 31 Dec 23 0 - 0h
-
104 - 【飛び級で博士号】天才すぎる数理モデル研究者は、東京で消耗しているらしい#104Sun, 24 Dec 23 0 - 0h
-
103 - 数理モデルで脳を分析したら、老人と若者の違いが明らかに。HUNTER×HUNTERは正しい。【数理モデル3】#103Sun, 17 Dec 23 0 - 0h
-
102 - 数理モデル研究者は神っぽい。見えないものを見るし、造物主になる。【数理モデル2】#102Sun, 10 Dec 23 0 - 0h
-
101 - 専門家に聞く、世界を知る道具としての数理モデル。【数理モデル1】#101Sun, 03 Dec 23 1 - 0h
-
100 - 極上のセキュリティ本について話してたら、引用ポイントを稼ぐバトルが始まった【雑談回】#100Sun, 26 Nov 23 0 - 0h
-
99 - 「セキュリティ経済学」の誕生。技術でなく、人間を見つめる時代へ。【セキュリティ3】#99Sun, 19 Nov 23 0 - 0h
-
98 - 最大の障壁は「愚かな人間」。セキュリティの発展と停滞と、希望の物語【情報セキュリティ2】#98Sun, 12 Nov 23 0 - 0h
-
97 - 情報セキュリティの敗北史。システムはなぜ安全にならないのか？【セキュリティ1】#97Sun, 05 Nov 23 0 - 0h
-
96 - 【もはや貯食】エグい量の食べ物が歯に詰まる人たちの雑談#96Sat, 04 Nov 23 1 - 0h
-
95 - 我々の著書はなぜ誤植まみれに？出版業界と標準規格は相容れない世界。【文字ヶｮデ2】#95Sat, 04 Nov 23 1 - 0h
-
94 - 存在しない漢字を、なぜ入力できるのか？ 世にも恐ろしい技術的負債の話。【文字コード3】#94Sun, 15 Oct 23 0 - 0h
-
93 - 文字コードを脳にたとえて説明する。GL領域は左脳で、GR領域は右脳。【文字コード2】#93Sun, 08 Oct 23 0 - 0h
-
92 - 文字コードを深掘りする。文字化けはなぜ起こるのか？【文字コード1】#92Sun, 01 Oct 23 0 - 0h
-
91 - 【うんちくでスベるホスト】ゆる学徒カフェで出会った人を語る【セロトニンのピアスの人】#91Sun, 24 Sep 23 0 - 0h
-
90 - 「完璧な表」は扱いづらい。データ配置理論の皮肉。【データベース4】#90Sun, 17 Sep 23 0 - 0h
-
89 - 技術者に怒られないためのエクセル術。セルを結合するな。【データベース3】#89Sun, 10 Sep 23 0 - 0h
-
88 - 失敗メモはなぜ生まれるか？世界の見方をツールに歪められるから。【データベース2】#88Sun, 03 Sep 23 0 - 0h
-
87 - コンピュータ科学の天才がたどり着いた、最強の情報整理とは？【データベース1】#87Sun, 27 Aug 23 0 - 0h
-
86 - 卒論を読み返したら、ひどすぎて笑い転げた#86Sun, 20 Aug 23 0 - 0h
-
85 - 最強の手法「バザール方式」で、実際に何かを始めてみよう！【伽藍とバザール2】#85Sun, 13 Aug 23 0 - 0h
-
84 - プロジェクトが成功する条件は◯◯。名著『伽藍とバザール』が語る黄金律【伽藍とバザール1】#84Sun, 06 Aug 23 0 - 0h
-
83 - 『プロジェクト・ヘイル・メアリー』への愛を1時間しゃべる回#83Sun, 30 Jul 23 0 - 0h
-
82 - 近現代の暗号を一気に紹介する回。暗号はカイジと同じ。【暗号4】#82Sun, 23 Jul 23 0 - 0h
