SVM研究以及个人日记

http://hi.baidu.com/hackzj99/blog/item/2267bd826ca58f92f703a67c.html

我们在办公室经常会自己感觉楼在晃动，特别是在会议室，当旁边的人动一下身子或者抖腿，都会敏感，紧张，以为地震来了。旁边的女同事会经常问：是不是有晃了？

我家厕所有两个包裹，里面有食品，证件，贵重物品，衣物。另外有一箱牛奶，四瓶矿泉水，一个铁榔头（被埋时敲打管道用），床尾地面上有二个倒立的啤酒瓶子，还有一个脉动的瓶子和两个维生素小瓶倒立摞在一起。这些瓶子最好都处于稳定临界点，我老婆吹了口气如果不倒，她就重新摆放。床头在一个充电的手电筒。

晚上做梦都和地震有关，...

　地震前我们在一个会议室开会，一个同事在介绍开发系统新版本的新功能，我一边听一边在Ｍｅｓｓｅｎｇｅｒ上解答一个捷克同事的问题。

　突然桌子开始跳动，放在桌子上的手控制不住。大家开始一愣，有人问了语句：怎么回事？　然后马上就意识到是地震。然后齐声说：地震，撤离！我们赶紧走出会议室。

从会议室出来，当时的感觉是诧异：成都怎么会发地震？　但是此时晃动已经很强烈，感觉自己在行驶在海上轮船上行走。我亲眼看到天花板吊带掉了一块下来。此时已经意识到了事态的严重，但是不知...

最近看到很多网络故事，突然觉得现在人们缺乏宽容和体谅的心。

比如，有人在别人窗户门口喂养流浪狗，当然狗吠必然会影响这家人的休息，所以从这个角度来讲，当然不希望别人在自己窗户旁喂狗。可是那些喂养流浪狗的人打着爱护动物的旗号讨伐别人！

你们真的有资格讨伐别人吗？你们为什么不把流浪狗领回家去养？ 因为你们不想负责任，只想通过在人家的窗户旁喂养流浪狗来享受喂狗的乐趣，却不想承担养狗的责任。你们体谅过别人吗？

最近又有人在讨伐上海的猫妈妈，一个...

做Team Lead已经有一年多了，有一些体会：

1. 一个team里面必须红脸和黑脸配合好，如果一个team都做好人，事情没有办法推动。都是“恶人”则team稳定性不够。

2. Team里面要有技术好的，执行力好的，会玩的，Office专家，会做presentation的，这样搭配起来还是很不错的。

3.如果你的工作需要得到别的team的支持，而别的team的人不配合，不要试图强硬的去批评别人，适时把问题和危机暴露给领导。

...

由网络讨伐焚烧流浪狗想到的. 待续.....

机遇可以带来偶然的成功, 也可以引爆以前的积累产生必然的成功.

机遇可以降临在你头上, 但是如果没有积累, 并不能带来必然的成功.

如果因为机遇给我带来了偶然的成功, 一定要尽快抓紧机会, 把导致必然成功的积累和基础打好,这样才能保障持久的成功.

 

在日常的工作中, 经常会强调Team Work的重要性, 也许很多人理解为Team Work就是能够听从指挥, 齐心协力把集体的事情做好.

但是我的理解,仅仅做到这些并一定就是Team Work. 真正Team work要求:

(1) 能够站在集体的利益在考虑问题, 不能光考虑局部小团体的利益.

(2) 对于所有的Deliverables, 除了满足一般的质量要求外, 要站在Counter Parts的角度来考虑如何提高自己的deliverables的质量.

(3) 大家对Team Work的基本共同的理解. 

...

1. 创业的时机和切入点: 首先要看到市场前景, 有国家的黄灯政策(没有规定不能干, 也没有说能干的领域). 红灯不能闯, 绿灯也许没有多少机会了.

2. 媒体: 人民日报和新华社不是媒体, 中国的媒体也就那么几家和网络新媒体.新浪实际上来借助高科技在做媒体. yahoo失败的原因在于美国有很成熟的传统媒体.

3. 创业的时候不要把每一个细节和困难想的太多了, 看准了方向, 就充满了激情的去做吧.

4. 工作要跳出打工者的心态的来工作.

5.  每一个人思维都有天花板, 永远不要期待一个在某一个领域成功的人给你一个新的创业的idea.

...

今天晚上有幸参与了公司组织的和新浪网ＶＰ的一个座谈，关于个人发展的问题有一点我特别赞赏．

有人问到如何在公司从一个Developer慢慢发展到高层领导.

汪岩的回答是: 永远站在比你高两级的老板的角度思考问题, 考虑如何把你的工作做好.

为什么要高两级? 因为你的Direct Manager可能只考虑了自己部门的利益, 没有考虑更大的组织的全局利益.

为什么不直接站在CEO的角度来考虑呢? 我个人认为: 你自己的Vision还没有达到那个高度, 你不可能把CEO的事情想好.

总的来说: 要有目标, 但是不能好高骛远. 踏踏实实的创新的把事情做好!

...

到今天我已经做了一年多的下属，同时也有了接近10个月和自己Team里面的成员共同成长的经历。总结一下，我发现在一个公司里面理想的下属应该是：

1. 足够聪明，对于工作中的问题能够找到解决方法。

2. 能够提出建议，和领导一起关心这个集体，但是仅仅是建议还不够， 还需要和领导一起实施你被批准的建议。

3. 领导交给自己的任务， 要能够在领导过问之前做的很好，完成任务的过程中只能请求领导给一些原则性的指导， 不要在细节问题上不停的问领导。

4. 在公开场合坚决的支持领导，保留自己的意见，私下和领导沟通。

5.尊重领导，但是不要谄媚。只有这样自己才能被尊重。

6.如果很长时间领导没有给你任务了， 最好主动要求一些任务。

7. 只有多干活，才能证明自己的能力和热情。

 

...

日志从今天开始进行内容进行调整，因为一年多的工作让我彻底的和SVM越来越远了。 去年3月毕业， 7月开始负责本人所属的team，开始了项目管理和People Management的道路。 我会利用这个平台记录自己的成长日记。

 嘿嘿, 今天拿到了谢校长盖章的学位证和毕业证,很高兴啊. 学位证的英文版翻译的日期为什么不用数字呢? 奇怪啊, 可能是为了防止作假吧. 不过用文字翻译日期很别扭. Two thousand and Six

德国风光

      越来越多的企业开始重视商务智能, 商务智能的目的就是希望获得决策支持, 决策者希望有一种工具能够从企业信息管理系统中的海量数据中得到一些决策支持信息. IT企业也是投入巨大的研发力量来尽可能的满足客户的需求.实际应用有两类.

1. 开发一个通用工具, 为企业建立数据仓库,然后在数据仓库的基础上提供一些数据统计和显示功能.缺点是: 通用工具无法直接提供满足企业具体需求的决策支持信息,决策者需要对数据统计的结果进行分析.

2. 针对具体企业的具体需求,提供满足特定需求的决策支持. 缺点是必须每一个项目都要重新设计,实施,不能开发通用产品.

 T.DOWNS在JMLR上有一篇文章提出了一种简化SVM决策函数的方法，方法的原理是寻找支持向量中的线性依赖关系，然后删除不独立的点。该文章之所以能够发表是因为是通过数学推导出来的，外国杂志对数学推导出来的结论比较认可。但是该方法使用效果不理想。原因是在通过矩阵变换寻找依赖关系的时候，如果设置一个松弛因子，使得如果某一行全部元素的值都小于该因子，则认为该行对应的样本可以删除。这样可以获得比较好的简化效果。

   我做过初步的实验，效果很好，大家可以参考。继续做下去。

在sparse LS-SVM的研究方面一直有一种观点：Lagrange乘子的值比较大的样本比较重要，是不能被prune的。但是我的研究发现，这种源自神经网络剪枝的思想并不适用于SVM。往往是距离类边界比较近的样本对确定决策边界更重要，基于这种思想提出了一种新的获得sparse lssvm的方法用于分类，实验结果表明方法是有效的，性能比其他方法要好。

  但是我的这种思想应用到回归问题上的时候需要一些修改，不能根据距离类边界的远近来判断重要性，然后来决定是否取舍，而是应该寻找每一段上的prototype，然后去掉其他点，这也是打破了传统的获得LSSVM的思路。

 2006年2月14日收到SAP Labs China的电话offer

 公元2006年1月7日上午于上海交通大学徐汇校区教二楼217正式答辩，7个答辩委员一致通过授予本人工学博士学位。答辩委员：邵世煌教授（主席），黄国兴教授，黄道教授，施颂椒教授，朱仲英教授，田作华教授，张卫东教授。

  博士期间撰写了8篇英文论文，1篇SCI国外期刊，1篇SCI国内英文，3篇SCI会议。（LNCS＋LNAI），1篇普通国外期刊，两篇EI国际会议。

 昨天到一家公司面试，是一个从事智能交通的startup公司，从事牌照识别和视频流识别，了解到他们目前的识别算法是神经网络，对我做的SVM很感兴趣，如果IBM CRL不要我的话，到这个公司也是一个很不错的选择！ 不过风险也是有的！

 首先利用非线性核学习SVM，然后利用两个虚构的样本在核空间的映射来逼近决策函数，最后在决策函数的法线方向构造一个新的特征，虚构的样本在分类未知样本的时候可以用来计算增加的特征！

 目前有一些关于简化SVM的决策函数的研究，一类是通过保持f(x)不变来实现的，另外一类是通过近似来实现的，这些通过近似来获得简化的SVM的方法本质上是在减小soft Margin来获得的，而且如果平移两个类的边界可以保证决策函数不变，但是Margin变小了，所以即使经验风险不变，但是会导致实际风险增加！

  这个是需要注意的！

 目前的SVM多使用Gausian核，多项式核。但是我们无法保证选择的核能够使得样本在核空间尽可能是线性可分的，也无法理解在高维空间的分布。是否能够通过多层SVM网络来实现这一点呢？

   思路：利用一个线性核，对输入样本学习SVM，得到一个决策函数，在分类超平面的法线方向应该是样本区别最明显的方向，能否在这个方向构造一个属性，使得样本属性加1，导致空间维数加1，这样逐步迭代也许可以找到一个合适的意义明确的映射，然后根据这个映射来确定核函数。

  问题：对未知样本，必须也要构造这个属性，所以必须是线性核，否则复杂度的增加将抵消带来的好处，但是线性核只能通过属性之间的和来得到新的属性，在解决XOR问题上就遇到了麻烦！

  问题可以解吗？需要进一步的思索和完善！