pumpkin-book icon indicating copy to clipboard operation
pumpkin-book copied to clipboard

【第3章线性模型】待推导或待解析公式征集+答疑专区

Open Sm1les opened this issue 4 years ago • 54 comments

在这里,你可以: 1.评论留下西瓜书第3章你觉得需要补充推导细节或者解析的公式编号,我们看到后会尽快进行补充; 2.评论留下你对南瓜书第3章里相关内容的疑问,我们看到后会尽快进行答疑。

Sm1les avatar Jul 25 '19 02:07 Sm1les

您好: 对于公式3.10 TIM图片20190903170811

我能不能把红色方框 看做一个整体M 先对M求导 然后求M对w的导数 这样可以吗? 计算是这样的 和书上的不一样 这是为什么? TIM图片20190903170909

SunshineJZJ avatar Sep 03 '19 09:09 SunshineJZJ

@SunshineJZJ 同学你好,请把你的详细推导过程发出来看一下

Sm1les avatar Sep 03 '19 10:09 Sm1les

您好: TIM图片20190903184035

SunshineJZJ avatar Sep 03 '19 10:09 SunshineJZJ

@SunshineJZJ 同学你好,西瓜书上的矩阵微分公式默认采用分母布局,所以你第2行的第一个等号后面的那两个偏导数的前后位置需要交换,理由参见打开这个链接https://en.wikipedia.org/wiki/Matrix_calculus#Vector-by-vector_identities 以后看到的表格的倒数第二个公式 image

Sm1les avatar Sep 03 '19 11:09 Sm1les

@Requiemfan 同学你好,你截图部分下方的那句话有交代。

Sm1les avatar Oct 04 '19 13:10 Sm1les

你好,不好意思。当时光顾着纠结公式了,谢谢。

------------------ 原始邮件 ------------------ 发件人: ":)s"[email protected]; 发送时间: 2019年10月4日(星期五) 晚上9:20 收件人: "datawhalechina/pumpkin-book"[email protected]; 抄送: "鲁凡"[email protected];"Mention"[email protected]; 主题: Re: [datawhalechina/pumpkin-book] 【第3章线性模型】待推导或待解析公式征集+答疑专区 (#62)

@Requiemfan 同学你好,你截图部分下方的那句话有交代。

— You are receiving this because you were mentioned. Reply to this email directly, view it on GitHub, or mute the thread.

Requiemfan avatar Oct 05 '19 09:10 Requiemfan

你好: QQ图片20200112150109

ghost avatar Jan 12 '20 07:01 ghost

@zxcvs 同学你好,已经补充进去了,但是我建议你还是先自己动手试推一下再看,因为这两个公式的推导并不复杂。

Sm1les avatar Jan 12 '20 07:01 Sm1les

谢谢巨巨,因为这两个公式确实没有推明白所以上传询问,再次感谢巨巨

------------------ 原始邮件 ------------------ 发件人: ":)s"<[email protected]>; 发送时间: 2020年1月12日(星期天) 下午3:39 收件人: "datawhalechina/pumpkin-book"<[email protected]>; 抄送: "秋临QL"<[email protected]>; "Mention"<[email protected]>; 主题: Re: [datawhalechina/pumpkin-book] 【第3章线性模型】待推导或待解析公式征集+答疑专区 (#62)

@zxcvs 同学你好,已经补充进去了,但是我建议你还是先自己动手试推一下再看,因为这两个公式的推导并不复杂。

— You are receiving this because you were mentioned. Reply to this email directly, view it on GitHub, or unsubscribe.

ghost avatar Jan 12 '20 07:01 ghost

还有专家在吗? 为什么 3.25 可以推导出 3.26. 没看明白。能帮忙解答一下吗

davidzhr avatar Jul 14 '20 06:07 davidzhr

@davidzhr 同学你好,3.25是对数似然函数,3.26只是似然函数中的似然项而已,你是不明白3.26那个似然项为什么那么写吗?

Sm1les avatar Jul 14 '20 07:07 Sm1les

是的, 前面假设了 P1, P0, 3.26 直接给出了一般化的公式, 我理解这个地方也只是 似然项的一个假设情况而已, 不知道对不对?

davidzhr avatar Jul 14 '20 07:07 davidzhr

@davidzhr 是的,似然项本身就没有固定写法,你可以看我南瓜书里面额外给出了另一种似然项的写法,这两种写法都是对的。

Sm1les avatar Jul 14 '20 07:07 Sm1les

谢谢, 看到了, 谢谢解答。

davidzhr avatar Jul 14 '20 07:07 davidzhr

hi @Sm1les 刚看了3.27 的证明。 image

没看明白由y=1, y=0 的两式综合所得 3.27的, 反倒是下面一种情况的似然项, 是严格的数据推导得到 3.27.

davidzhr avatar Jul 14 '20 07:07 davidzhr

@davidzhr 这个综合可得就是一个恒等变换,你把综合可得得到的式子里面的y_i分别取值为0和1你就会发现和上面那个式子是等价的。

Sm1les avatar Jul 14 '20 07:07 Sm1les

好的, 谢谢

davidzhr avatar Jul 14 '20 08:07 davidzhr

您好! 请问根据式(3.45)如何求得的W的闭式解?在我的理解里不同的特征向量应该对应不同的特征值呀,那样等式3.45不就无法成立了吗? 谢谢!

dlmdlmacy avatar Aug 16 '20 08:08 dlmdlmacy

@dlmdlmacy 3.45下面有句话,取N-1个最大的特征值对应的特征向量

Sm1les avatar Aug 16 '20 08:08 Sm1les

@dlmdlmacy 3.45下面有句话,取N-1个最大的特征值对应的特征向量

感谢您的回复!但我还是有一点不明白:

在我的理解里,这个求W的过程是将W看成几个列向量w1、w2... 然后问题分解为Sw^(-1)Sbw1=λ1w1、Sw^(-1)Sbw2=λ2w2…… 所以W由Sw^(-1)*Sb的特征向量组成,不知道这样的理解是否准确?

如果按照这样理解,每一个列向量所对应的特征值都不相同,但是式(3.45)中只有一个λ,如何满足式(3.45)呢?

谢谢!

dlmdlmacy avatar Aug 16 '20 09:08 dlmdlmacy

@dlmdlmacy 这个需要你参照3.37来理解,λ并不重要,我们求的w只关心方向,不关心大小

Sm1les avatar Aug 16 '20 09:08 Sm1les

@dlmdlmacy 这个需要你参照3.37来理解,λ并不重要,我们求的w只关心方向,不关心大小

好的,谢谢!

dlmdlmacy avatar Aug 16 '20 09:08 dlmdlmacy

@Sm1les 您好,请问公式3.10如何得出的呀?

Harvestning avatar Feb 24 '21 08:02 Harvestning

@Sm1les Sorry,是公式3.11

Harvestning avatar Feb 24 '21 08:02 Harvestning

@Sm1les 谢谢,因为一个地方理解错误所以致错,已解决。

Harvestning avatar Feb 24 '21 10:02 Harvestning

@Harvestning ok,解决了就好 :)s

Sm1les avatar Feb 24 '21 10:02 Sm1les

a_aT

请问这个公式,结果为什么是a, 而不是aT,我参考的是:

uw

IMYR666 avatar Mar 02 '21 07:03 IMYR666

@IMYR666 同学你好,我写的a是列向量,你看的A是矩阵,此外,建议你参考 https://en.wikipedia.org/wiki/Matrix_calculus 这个看

Sm1les avatar Mar 02 '21 07:03 Sm1les

@IMYR666 同学你好,我写的a是列向量,你看的A是矩阵,此外,建议你参考 https://en.wikipedia.org/wiki/Matrix_calculus 这个看

这里列向量和矩阵不一样吗?这是我理解的公式,能讲下为什么不对吗 at 另外我打开链接都是乱码,等了好久都是这样 wiki

IMYR666 avatar Mar 02 '21 07:03 IMYR666

可以使用这种方法来理解,用张量的缩并,请指教

Yyp [email protected]

---原始邮件--- 发件人: "IMYR666"<[email protected]> 发送时间: 2021年3月2日(周二) 下午3:12 收件人: "datawhalechina/pumpkin-book"<[email protected]>; 抄送: "Subscribed"<[email protected]>; 主题: Re: [datawhalechina/pumpkin-book] 【第3章线性模型】待推导或待解析公式征集+答疑专区 (#62)

请问这个公式,结果为什么是a, 而不是aT,我参考的是:

— You are receiving this because you are subscribed to this thread. Reply to this email directly, view it on GitHub, or unsubscribe.

BeiChenJun avatar Mar 02 '21 08:03 BeiChenJun