Kolmogorov-Arnold Networks (KAN)

名稱
Email
主題
回覆
檔案
嵌入
Options	Spoiler 圖片
密碼	（用來刪除檔案。）
Allowed file types:jpg, jpeg, png, gif, mp4, webm Max filesize is 10 MB. Max image dimensions are 10000 x 10000. You may upload 1 per post.

Kolmogorov-Arnold Networks (KAN) 無ゴミ 24/05/18 (Sat) 07:45:25 728dc0a3 No.1059

MLP用激勵函數達成非線性
以及可以訓練的權重
使模型可以近似任意未知模型

而KAN則把權重替換成B-spline的係數
相當於各種不同的激勵函數
節點不使用任何權重，純粹將各個激勵函數相加

作者認為這種更改讓模型有更高的準確度
更加有效率的運用權重，以及更容易解釋
https://arxiv.org/abs/2404.19756v2
arXiv上有更詳細的模型描述