[數值] 用牛頓法解非線性系統

看板Math作者 (drinks)時間12年前 (2012/01/10 16:47), 編輯推噓0(0023)
留言23則, 3人參與, 最新討論串1/2 (看更多)
各位前輩及同好 ~ 午安 昨天小弟在解一題數值的非線性系統問題,解了一天都解不出來 是要用牛頓法解,但還是解不出 故PO上來請教前輩及同好,甚至於給個方向也可以 感謝 <(__)> 題目 : F_j(a,b) = a+exp(bx_j)-y_j ; j =1,2,3,....... -- ※ 發信站: 批踢踢實業坊(ptt.cc) ◆ From: 140.128.36.160

01/10 16:52, , 1F
你需要做個Jacobian矩陣
01/10 16:52, 1F

01/10 16:55, , 2F
已經有做Jacobian,但是接下來就不知道該怎麼解 囧
01/10 16:55, 2F

01/10 16:56, , 3F
感謝前輩回應 <(__)>
01/10 16:56, 3F

01/10 18:09, , 4F
x(n+1)=x(n)-(J(x(n)))^{-1}F(x(n))
01/10 18:09, 4F
非常感謝前輩回應解惑,小弟還有幾個疑問 (1) 矩陣的形式是寫成以下這樣嗎 ?? / a+exp(bx_1)-y_1 ╲ ︱ a+exp(bx_2)-y_2 ︱ F =︱ ﹕ │ │ : │ \ a+exp(bx_n)-y_n / (2) 做完 Jacobian 的矩陣是以下這樣 ╱ F_1對a做偏微 F_1對b做偏微 ╲ ╱ 1 x_1exp(bx_1) ╲ DF =│ : │ =︱ : : ︱ ╲ F_n對a做偏微 F_n對b做偏微 / ╲ 1 x_nexp(bx_n) ╱ 這樣做完 ,就沒辦法做反矩陣,還是方向有錯 ?? (3) 最前面的 x(n) 是帶 ╱ a ╲ 這個矩陣嗎 ? 然後再將a=0 ,b=0 帶入 ?? ╲ b / 不好意思,問了這麼多,中間太多疑問且也不確定方向對不對 所以再請前輩們解惑回應 。 <(__)> 感謝 ※ 編輯: drinks9216 來自: 140.128.36.160 (01/10 18:38)

01/10 21:28, , 5F
你的未知數是哪些?? a, b, x_i??
01/10 21:28, 5F

01/11 02:56, , 6F
你沒把你的問題弄清楚...
01/11 02:56, 6F

01/11 02:56, , 7F
你究竟要解 F=0, 還是要 fit data?
01/11 02:56, 7F
感謝前輩回應解惑,關於未知數是指 a , b , 主要是在解 fit data 真的很不好意思,懇請前輩回應解惑,感謝 <(_ _)> ※ 編輯: drinks9216 來自: 140.128.36.160 (01/11 10:30)

01/11 12:34, , 8F
所以你要做的是最小平方法 不是牛頓法
01/11 12:34, 8F

01/11 16:42, , 9F
感謝前輩回應解惑 <(__)>
01/11 16:42, 9F

01/11 16:43, , 10F
若用牛頓法的話,是否可以解出 ?? 感謝 <(__)>
01/11 16:43, 10F

01/11 17:18, , 11F
剛剛在書本中有查到一點點,正確來說是用高斯-牛頓法
01/11 17:18, 11F

01/11 17:19, , 12F
懇請前輩回應解惑,感謝 <(_ _)>
01/11 17:19, 12F

01/12 18:05, , 13F
假設你要的是 fit 模型 y=a+exp(bx). 考慮最小平方準
01/12 18:05, 13F

01/12 18:07, , 14F
則 Q(a,b)=Σ{y_i-(a+exp(b x_i))}^2 be minimized.
01/12 18:07, 14F

01/12 18:07, , 15F
分別對 a, b 做偏微, 並令結果為 0. 則得兩個方程式,
01/12 18:07, 15F

01/12 18:08, , 16F
剛好解兩個未知數 a, b. 則 Newton-Raphson 方法可考
01/12 18:08, 16F

01/12 18:09, , 17F
慮. 不過, 是否會碰到不收斂情形不得而知.
01/12 18:09, 17F
感謝前輩回應解惑。 不好意思,再問一下。 關於對 a , b 做偏微,是指 Q(a,b)=Σ{y_i-(a+exp(b x_i))}^2 這個式子 對 a , b 做偏微嗎 ? (也就是做 Jacobian) 所以先要極小化再做 Newton-Raphson 的步驟 ? ( 指這個式子 y_i-(a+exp(b x_i) 要先做平方,之後再做牛頓法 ) 真的不好意思問了這麼多,很感謝前輩們回應解惑 感謝 <(_ _)> ※ 編輯: drinks9216 來自: 140.128.36.160 (01/13 13:49) ※ 編輯: drinks9216 來自: 140.128.36.160 (01/13 13:51)

01/13 15:36, , 18F
對a做偏微分=0得到一個式子
01/13 15:36, 18F

01/13 15:36, , 19F
對b偏微分=0得到一個式子 這兩個式子都有未知數ab
01/13 15:36, 19F

01/13 15:37, , 20F
解出ab就是你要fitting的參數
01/13 15:37, 20F

01/13 15:37, , 21F
然後不需要牛頓法也不需要做Jacob 這個叫最小平方法
01/13 15:37, 21F
感謝前輩回應解惑。樓上前輩所指的是 這個式子 Q(a,b)=Σ{y_i-(a+exp(b x_i))}^2 對 a 做偏微 = 0 與 對 b 做偏微 = 0 ,個別得到式子後,再解聯立 就可以得到 a 和 b 的數 ?? 感謝前輩們的回應解惑。 <(_ _)> ※ 編輯: drinks9216 來自: 140.128.36.160 (01/13 16:15)

01/13 16:31, , 22F
就是這樣沒錯
01/13 16:31, 22F

01/16 00:07, , 23F
感謝前輩們的耐心解惑回應 太感謝了 <(_ _)>
01/16 00:07, 23F
文章代碼(AID): #1F2_ifij (Math)
文章代碼(AID): #1F2_ifij (Math)