2026-08-21 (金)

朝はアテンション周りの論文のメモを作っていた。この辺の論文の相互リンクはだいぶいい感じに充実してきたな。 論文名でWikiNameにするとリンクが貼りにくいので定番の省略名があるConvS2SとかTransformerはその名前で作っておく方がいいな。

図書館で軽くブログを書いたりTransformer論文読んだり。

夕方軽く海に入る。＞SurfLog

2026-08-22 (土)

波があがってきたので朝からはいる＞SurfLog

WikiNameの作り方とか書いてみる。こういうのはブログでもいいのだが、Wikiにこの手の話は結構書いてあるのでそちらに追加する感じで。

2026-08-24 (月)

昨日もちょっと波があり、ちょっとサーフィンの疲労でぐったりしていた。

今日から台風進行＞SurfLog

しばらくサーフィン中心で他の事はぼちぼちで。

2026-08-25 (火)

今日は台風進行＞SurfLog

2026-08-29 (土)

久しぶりに今朝はサーフィン出来ないくらい波がない。という事でサーフィンWeekは終わりかな。

台風18号のまとめを書く。＞台風18号ウィークが終わった - なーんだ、ただの水たまりじゃないか

次は日常生活の立て直しだな。 とりあえずやりたいと思っていた事をリストアップしつつ思い出す。

  • 原論文から解き明かす生成AI、の続き
  • TypeScriptでトランスパイラ作り
  • Rhinocsの公開に向けての作業
  • お絵描きライブの次の形態を考える

全部やろうとすると大変なので、ちょっとずつ進めていこう。

雨が降ってきたので自宅で読書に。

原論文から解き明かす生成AIの3章を見直しつつTransformerのマルチヘッドアテンションの周辺を見直す。だいたい思い出してきた。

2026-08-30 (日)

今日も波は無さそうなのでTransformer周辺のお勉強。PositionEmbeddings周辺を整理したり追加の論文を読んだり。 この辺は昔勉強した当時よりも研究が進んでいるので、当時疑問に思った事が解明されていて面白いな。

ファイナルファイトの最終面を周回。だいぶ安定してきたな。そろそろ通しでつなげようとしてもいいかもしれないが、序盤はだるいんだよなぁ。

夜はクイックスケッチライブ。しばらくたてなか流クイックスケッチの練習ライブをしていきたい。

2026-08-31 (月)

今日も全然波ないな。サーフレッスンはキャンセルかなぁ。

図書館でOnPositionEmbeddingsInBERTを読むなど。

帰ってきて周辺のWikiを整理。Position Embeddingsはだいぶ理解が深まってきたな。