pumpkin-book icon indicating copy to clipboard operation
pumpkin-book copied to clipboard

【第8章集成学习】待推导或待解析公式征集+答疑专区

Open Sm1les opened this issue 4 years ago • 50 comments

在这里,你可以: 1.评论留下西瓜书第8章你觉得需要补充推导细节或者解析的公式编号,我们看到后会尽快进行补充; 2.评论留下你对南瓜书第8章里相关内容的疑问,我们看到后会尽快进行答疑。

Sm1les avatar Jul 25 '19 02:07 Sm1les

从(8.28)过渡到(8.31)

feng-1985 avatar Aug 08 '19 02:08 feng-1985

从(8.28)过渡到(8.31)

同学您好,(8.29)的式子减去(8.30)的的式子,是等于(h_i(x)-H(x))^2的,也就能得到(8.31)的式子,可以类比回归中的TSS,ESS,RSS(Total,Explain,Residual)

Ye980226 avatar Aug 11 '19 15:08 Ye980226

@Sm1les (8.15)十分感谢!^_^

johnmaster avatar Aug 22 '19 10:08 johnmaster

@johnmaster 同学你好,(8.15)是一个定义式来的,对于这种定义式通常只需知道就好,可以不必深究,你是希望我们补充哪方面的内容呢?

Sm1les avatar Aug 24 '19 08:08 Sm1les

懂了,我自己看了一会,就看明白了。不好意思,打扰你了!不过十分感谢你的回复!

johnmaster avatar Aug 24 '19 08:08 johnmaster

8.12中为什么f2(x) = ht2(x) = 1啊,怎么推出8.13的啊

ChineseTaoist avatar Aug 25 '19 03:08 ChineseTaoist

@ChineseTaoist 这俩的值都属于{-1,+1}。

johnmaster avatar Aug 25 '19 03:08 johnmaster

还是不太理解(8.31),为什么只有一半的加权,可以麻烦写一下过程吗

superraincc avatar Sep 12 '19 08:09 superraincc

@superraincc 其实是都有加权的,只是后面那一项是一个常数,\sum_{i=0}^T wi*E(H|x)=E(H|x)

Ye980226 avatar Sep 14 '19 12:09 Ye980226

@superraincc 其实是都有加权的,只是后面那一项是一个常数,\sum_{i=0}^T wi*E(H|x)=E(H|x)

啊明白了,谢谢!

superraincc avatar Sep 16 '19 07:09 superraincc

还是不明白,式8.29与8.30相减,a^2-b^2不是=(a-b)(a+b),也就是(H(x)-hi(x))(2f(x)-hi(x)-H(x))吗,跟8.31的形式还是不同吧

mxl1990 avatar Sep 23 '19 13:09 mxl1990

我认为对l_{exp}(H|D)的解释不对,这个式子就是对x的分布求期望,结果应该是不包含x的。只不过它的最小化可以通过对x逐点最小化来达到。 ps:我认为书中有的地方就是不太严谨,没必要强行去解释。

demolpc avatar Sep 25 '19 03:09 demolpc

c60e3d9b09d303e3e60116531dead3e @mxl1990 同学你好,最近比较忙,不好意思,你看下这个能理解不

Ye980226 avatar Sep 25 '19 05:09 Ye980226

@demolpc 同学,我觉得这里含了x只是中间的计算式,并不是最终结果

Ye980226 avatar Sep 25 '19 05:09 Ye980226

@Ye980226 对啊,求期望后l_{exp}(H|D)是一个和x无关的值,但是网页中l_{exp}(H|D)得到的却是和一个具体的x有关。

demolpc avatar Sep 25 '19 07:09 demolpc

c60e3d9b09d303e3e60116531dead3e @mxl1990 同学你好,最近比较忙,不好意思,你看下这个能理解不

ok,辛苦啦,我已经看懂了,还要加上条件\[H(x) = \sum\limits_{i = 1}^T {{w_i}{h_i}(x)} \]以及 \[\sum\limits_{i = 1}^T {{w_i}} = 1\]

mxl1990 avatar Sep 25 '19 09:09 mxl1990

@demolpc 是的,如果H(x),f(x)都确定的话,应该是个确定的式子,但是这里H(x)相当于自变量了,并不确定,所以它后面是对H(x)求了偏导

Ye980226 avatar Sep 30 '19 13:09 Ye980226

为什么8.12式求期望时ht没有加权重系数呢αt?

ghost avatar Oct 11 '19 17:10 ghost

@HAI-U 同学,来迟了,抱歉 ̄□ ̄||你可以8.12上面说了一句话,理想的h_t可以纠正H_{t-1}的全部错误,所以不加权重系数。我认为如果权重系数α_t不随着x的变化而变化是个常数的话,对8.14的式子没有影响。

Ye980226 avatar Oct 21 '19 11:10 Ye980226

批注 2019-10-29 173108 关于8.5,期望求解应该要对x求和吧,感觉第二个等式少了求和符号,但是如果有求和符号,后面对H求导结果就多了一个求和符号?

yanglei-github avatar Oct 29 '19 09:10 yanglei-github

@yanglei-github 事件{f(x)=1}和{f(x)=-1}已经是完备事件组了,求期望是 权重(概率)*值,然后P(f(x)=1|x)是概率,e^(-H(x)f(x))为值,又知道f(x)=1,那么值就是e^(-H(x)),然后把P(f(x)=-1|x)也加上就出现了上述式子

Ye980226 avatar Nov 09 '19 04:11 Ye980226

请问8.17式中2后面的两个竖线的数学意义是什么呢?没有看到这种表示呢

ghost avatar Nov 19 '19 22:11 ghost

@HAI-U 同学你好,这是指示函数,具体定义参见第1章的公式1.1

Sm1les avatar Nov 21 '19 09:11 Sm1les

请问您知道github里create new file那个绿色按钮是灰的没办法按是什么原因吗?

---原始邮件--- 发件人: ":)s"<[email protected]> 发送时间: 2019年11月21日(周四) 上午9:14 收件人: "datawhalechina/pumpkin-book"<[email protected]>; 抄送: "Mention"<[email protected]>;"yanglei-github"<[email protected]>; 主题: Re: [datawhalechina/pumpkin-book] 【第8章集成学习】待推导或待解析公式征集+答疑专区 (#67)

@HAI-U 同学你好,这是指示函数,具体定义参见第1章的公式1.1

— You are receiving this because you were mentioned. Reply to this email directly, view it on GitHub, or unsubscribe.

yanglei-github avatar Dec 18 '19 19:12 yanglei-github

@yanglei-github 同学你好,你是想给我们的项目提交相关内容是吗?

Sm1les avatar Dec 19 '19 04:12 Sm1les

对的。

---原始邮件--- 发件人: ":)s"<[email protected]> 发送时间: 2019年12月19日(周四) 凌晨4:58 收件人: "datawhalechina/pumpkin-book"<[email protected]>; 抄送: "Mention"<[email protected]>;"yanglei-github"<[email protected]>; 主题: Re: [datawhalechina/pumpkin-book] 【第8章集成学习】待推导或待解析公式征集+答疑专区 (#67)

@yanglei-github 同学你好,你是想给我们的项目提交相关内容是吗?

— You are receiving this because you were mentioned. Reply to this email directly, view it on GitHub, or unsubscribe.

yanglei-github avatar Dec 19 '19 09:12 yanglei-github

看了好久南瓜书,觉得很有帮助,也想贡献一点力量。

---原始邮件--- 发件人: ":)s"<[email protected]> 发送时间: 2019年12月19日(周四) 凌晨4:58 收件人: "datawhalechina/pumpkin-book"<[email protected]>; 抄送: "Mention"<[email protected]>;"yanglei-github"<[email protected]>; 主题: Re: [datawhalechina/pumpkin-book] 【第8章集成学习】待推导或待解析公式征集+答疑专区 (#67)

@yanglei-github 同学你好,你是想给我们的项目提交相关内容是吗?

— You are receiving this because you were mentioned. Reply to this email directly, view it on GitHub, or unsubscribe.

yanglei-github avatar Dec 19 '19 09:12 yanglei-github

@yanglei-github 好的,非常欢迎,我的邮箱是[email protected] :)

Sm1les avatar Dec 20 '19 02:12 Sm1les

请问公式8-9这一步怎么得到呐? image

yudayuta avatar Jan 09 '20 15:01 yudayuta

@yudayuta 你好, e^{-f(x)\alpha_t h_t(x)} = e^{-\alpha_t}e^{f(x)h_t(x)} 注意到f(x) 和 h_t(x) 的取值范围均是{-1, +1} ,因此f(x)h_t(x) 只有两种可能,当f(x) = h_t(x)的时候 f(x)h_t(x) = 1,当f(x) \neq h_t(x) 的时候 f(x)h_t(x) = -1,带入上式即得结果

archwalker avatar Jan 10 '20 13:01 archwalker