?classifier

classifier發(fā)音

英：[?kl?s?fa??(r)]　　美：[?kl?s??fa??]

英：　　美：

classifier中文意思翻譯

n. 分級器；分選工；[語(yǔ)]量詞

classifier常見(jiàn)例句

1 、CBIR (Content-based Image Retrieval),Relevance Feedback,Model of Image Retrieval,Vision Feature,Bayesian Classifier,Sematic NetWork,Query Interface,Retrieval Engine.───01基于內容圖像檢索,相關(guān)反饋,圖像檢索模型,視覺(jué)特征,貝葉斯分類(lèi)器,語(yǔ)義網(wǎng)絡(luò ),查詢(xún)接口,檢索引擎

2 、The result of experiment indicates that it is an effective way to realize a text classifier with the combination of corr...───實(shí)驗結果表明,通過(guò)結合相關(guān)系數法、覆蓋算法以及維數調節方法,可實(shí)現一個(gè)效果較好的文本分類(lèi)器。

3 、The character只 in the function of a classifier looks like a bird in the grasp of a hand.───在甲骨文、金文和小篆中，均象是用手抓住一只小鳥(niǎo)，其本意一只鳥(niǎo)。

4 、With an Euclidean distance based classifier,each nonoverlapping window of the texture image is then assigned to its corresponding category.───利用基于歐幾里得距離的分類(lèi)器,每個(gè)紋理圖像不相重疊的圖像窗被確定到屬于它的那一類(lèi)。

5 、In UML 2 the subsystem classifier is a specialized version of a component classifier.───在UML 2中,子系統分類(lèi)器是組件分類(lèi)器的一個(gè)特別版本。

6 、The results indicate that it can achieve over 98% accuracy on per-flow classification with the SVM classifier.───實(shí)驗結果表明支持向量機分類(lèi)器可以達到98%以上的流分類(lèi)準確率。

7 、In expressions, the rhetoric of hue stresses on appropriateness; the rhetoric of classifier measure word on selectiion and the rhetoric of punctuation marks on properness.───在言語(yǔ)表達中，色彩修辭重在得體，量詞修辭重在選擇，而標點(diǎn)符號修辭則重在適宜。

8 、It's complicated. I... I mean, it's classified.─── 很復雜 我是說(shuō) 這是保密信息

9 、FMM neural network is chosen as the classifier with modified training algorithm.───對5種噴氣飛機模型的識別結果表明,該算法具有較高的正確識別率。

10 、What are Learning Classifier Systems?───什麼是分類(lèi)元系統?

11 、One-class classifier with negatives is based on one-classifier,by leading into a few costful abnormal samples to reinforce the classification.───帶野值的單類(lèi)分類(lèi)器是在單類(lèi)分類(lèi)器的基礎上,通過(guò)引入少量珍貴的異常樣本(野值),以加強分類(lèi)器的性能。

12 、Based on Bayesian optimal classifier, combining with rough set and fuzzy set, a new transformer fault diagnosis and maintenance mode is presented in the paper.───基于粗糙集、模糊集和貝葉斯最優(yōu)分類(lèi)器,提出一種變壓器絕緣故障診斷與維護的綜合決策模型。

13 、And I told you they were classified.─── 我告訴過(guò)你這些文件都是保密的

14 、Dispersion is a premium condition that actualizes ideal classification because the material must be dispersed completely before they enter the classifier.───分散是分離的前提條件，進(jìn)入分級機的粉體必須充分分散；

15 、Classifier networks are becoming the basis of machine vision systems.───分類(lèi)器網(wǎng)路正成為機器視覺(jué)系統的基礎。

16 、An adaptive wavelet network classifier for vibration fault diagnosis of steam turbine-generation is proposed based on theory of adap tive wavelet network (AWN).───基于自適應小波網(wǎng)絡(luò )理論，構造了一個(gè)應用于汽輪發(fā)電機組振動(dòng)故障診斷與識別的自適應小波網(wǎng)絡(luò )分類(lèi)器。

17 、According to MOR,they were tested using 10-fold cross validation with two real world data sets,and compared with Bayesian network classifier based on MPE.───在兩個(gè)真實(shí)數據集上以MOR用10層交叉驗證對貝葉斯網(wǎng)絡(luò )信用評估模型進(jìn)行了測試,并與最小錯誤概率準則MPE的貝葉斯網(wǎng)絡(luò )分類(lèi)器的結果進(jìn)行了對比。

18 、This thesis tries to apply new techniques of multiple classifier fusion to the area of identification of the marrow cells, and make efforts to meliora.───因此,本課題將模式識別領(lǐng)域中新發(fā)展起來(lái)的多分類(lèi)器融合技術(shù)應用到骨髓細胞的分類(lèi)識別中,并在融合理論的改善上作了一些探索性的研究。

19 、In the related resources section, there are links that can be explored for a deeper understanding of these types of classifier networks.───在相關(guān)資源區里，有一些連結可以幫助各位更了解這些類(lèi)型的分類(lèi)器網(wǎng)絡(luò )。

20 、Their interaction brings up the abundant use of "one classifier for mult...───四者彼此交互作用,導致"一量多物"的大量使用。

21 、On this basis, classifier is made in order to separate the docking aircraft from other moving objects.───在此基礎上設計了分類(lèi)器，區分泊位飛機與泊位場(chǎng)景中其他運動(dòng)物體。

22 、The test of improving the quality of aluminum hydroxide as artificial onyx filler by fluidic classifier is introduced.───介紹了利用射流分級技術(shù)改進(jìn)氧化鋁瑪瑙填料質(zhì)量的試驗情況,采用正交試驗法優(yōu)化確定分級的工藝參數。

23 、Mainly presentes the application conditions of KMLF tilting narrow Upflow Classifier in the area of classification, desliming and concentrating in mineral separation industry.───介紹了KMLF型斜窄流分級機在選礦分級領(lǐng)域中的應用情況。

24 、Compared with the standard SVM algorithm, the experiments show our new classifier can both improve the classification accuracy and reduce the bias.───實(shí)驗表明，新的基于SVM的分類(lèi)器與傳統SVM相比較，在分類(lèi)準確率上有很大提高，同時(shí)偏差有所降低。

25 、Classification needs to construct a model(also called classifier)which makes a map of records in Database with a peculiar class label.───分類(lèi)是要構造一個(gè)數學(xué)模型(分類(lèi)器)，該模型能把數據庫的記錄映射到某一個(gè)特定的類(lèi)別。

26 、The classifier is a classification facility of superfine powder according to the principles of inertia grading , fast grading and Coanda effect.───射流分級機是集慣性分級、迅速分級和微細顆粒的附壁效應(coanda效應)等原理于一體進(jìn)行超細分級的分級設備。

27 、But she could have been a forwarder of classified materials; she could have taken stuff off of classified systems and dumped it down.─── 但是她可能會(huì )轉發(fā)機密材料 她可能會(huì )把材料從機密系統里調出 然后將其轉存

28 、This paper regards decision tree as basic classifier, and introduces the least square technology for linear fusion.───以決策樹(shù)作為基本分類(lèi)器，引入最小二乘技術(shù)進(jìn)行多分類(lèi)器線(xiàn)性融合。

29 、In fact, a classifier is a more general concept, which includes data types and interfaces.───事實(shí)上,分類(lèi)器是一個(gè)更為一般的概念,它包括數據類(lèi)型和接口。

30 、What I'm about to tell you is classified.─── 我將要告訴你們的純屬機密

31 、Mining classification rules is a procedure to construct a classifier through studying the training dataset.It is a very important part of Data Mining and Knowledge Discovery.───分類(lèi)規則挖掘則是通過(guò)對訓練樣本數據集的學(xué)習構造分類(lèi)規則的過(guò)程，是數據挖掘、知識發(fā)現的一個(gè)重要方面。

32 、To sum up, the event noun has a strong tendeacy of combination with the medium [+ timeliness] classifier subcategory.───總體來(lái)看，事件名詞傾向于選擇時(shí)間不強也不弱，即時(shí)間性居中的動(dòng)量詞、時(shí)量詞或名量詞小類(lèi)。

33 、"The classifier is adjustable to produce a wide range of particle size distributions.───其分級器可以進(jìn)行調節，以生產(chǎn)粒度分布范圍大的顆粒。

34 、There are two class screwing gear reducer and electromotor in the base of main machine.The powder classifier is equipped on the top of grinding chamber.───主機機座內裝有二級螺旋齒輪減速器與電動(dòng)機，渦輪式選粉機裝在磨腔殼體上部。

35 、There is a reason why they're classified.─── 它們被歸為機密是有原因的

36 、It was classified. I couldn't tell you.─── 這是機密 我不能告訴你

37 、We conclude that the perceptron act not only as a classifier, it performs classifier with gradient feature.───因此，單層感知機不只做單純的分類(lèi)，它能做有層次的分類(lèi)。

38 、The processing result is compared with the result from LoG-Laplacian operator.At the part of image recognition , effective characteristics are chosen to design classifier .───在圖像識別部分,選擇對結焦分類(lèi)判別有效的特征構成特征向量,建立判別函數,并確立決策面方程,進(jìn)而完成了分類(lèi)器設計。

39 、Classifier networks are used to inspect, sort, identify, and discriminate minute details in biological or machine systems that human beings cannot discern.───分類(lèi)器網(wǎng)絡(luò )可用來(lái)檢視、分類(lèi)、確認與區別在生物或機器系統中一些人類(lèi)無(wú)法察覺(jué)到的微小細節。

40 、You can adopt gillh, which will log you in as gillh , and log you out from your existing classifier (if any).───您可以采用gillh，那樣您即為 gillh 登入，而從您現在用的云形狀分級器登出（如果有的話(huà)）。

41 、The paper introduces the principle and structural characteristics of the turbo cyclone of a new classifier, and optimizes and studies the structural parameters of the cyclone.───介紹了新型分級設備渦輪旋流器的基本原理和結構特點(diǎn)，并對設計的渦輪旋流器的結構參數進(jìn)行了優(yōu)化研究。

42 、You can adopt catastrophic, which will log you in as catastrophic , and log you out from your existing classifier (if any).───您可以采用catastrophic，那樣您即為 catastrophic 登入，而從您現在用的云形狀分級器登出（如果有的話(huà)）。

43 、A decision-making model and a numerical approach of partner selection were proposed based on multiple classifier fusion rules.───應用多分類(lèi)器融合規則，建立了供應鏈伙伴選擇的決策模型和方法。

44 、Then two above recognition model are fused at decisional level, the model and method of cutting tool state recognition based on classifier fusion is proposed.───再對上述兩種識別模型進(jìn)行決策層融合研究，提出了基于分類(lèi)器融合的刀具狀態(tài)識別模型和方法。

45 、Target of classification is to find out a classification function or model (also called classifier). The model can map a single record in database to a pre-assumed class.───分類(lèi)的目的是學(xué)會(huì )一個(gè)分類(lèi)函數或分類(lèi)模型(也常常稱(chēng)作分類(lèi)器),該模型能把數據庫中的數據項映射到給定類(lèi)別中的某一個(gè)。

46 、According to [+ timeliness], the action classifier and timeliness classifier can constitute a continuum of seven kinds at four levels.───如果用[+時(shí)間性]的有無(wú)與高低來(lái)衡量，傳統區分的動(dòng)量詞、時(shí)量詞其實(shí)可細化為7個(gè)等級的連續統，并由低至高形成4個(gè)層級。

47 、LV Classifier is a new concept separator, which has been developed for vertical mill modification, to improve the gas and material flow in the vertical mill.───lv 選粉機是一種全新概念的物料分離設備，它能提高了立磨中的氣流及物流速度，并且在立磨的改造中得到了廣泛的應用。

48 、The work capitalized on public hand-classified network dataset and used it to train and tested the supervised SVM traffic classifier.───使用公開(kāi)的人工標注數據集作為訓練集和測試集,通過(guò)有監督學(xué)習構建支持向量機流量分類(lèi)器。

49 、And the feature fusion coefficients can not only improve the discrimination of the system, but also amend the fuzzification of the classifier system.───在此基礎上，決策融合系數的加入不但可以提高系統的識別率，而且有效降低系統分類(lèi)、識別決策的模糊性。

50 、You can adopt anb, which will log you in as anb , and log you out from your existing classifier (if any).───您可以采用anb，那樣您即為 anb 登入，而從您現在用的云形狀分級器登出（如果有的話(huà)）。

51 、Thus, the proposed RVM classifier is more advantageous for real-time processing fault detection.───因此，該方法非常適合于在線(xiàn)故障檢測等實(shí)時(shí)性要求很高的領(lǐng)域。

52 、It allows you to show how a class or another classifier is internally composed.───它允許你顯示一個(gè)類(lèi)或另外的一個(gè)分類(lèi)器如何在內部構成。

53 、You can adopt caocao, which will log you in as caocao , and log you out from your existing classifier (if any).───您可以采用caocao，那樣您即為 caocao 登入，而從您現在用的云形狀分級器登出（如果有的話(huà)）。

54 、Classification is an important sub-branch of Data Mining, which aims to build the classifier used to predict the class label of new coming data.───分類(lèi)(Classification)是數據挖掘領(lǐng)域的一個(gè)重要研究分支，分類(lèi)首先要構造分類(lèi)器，并對依據分類(lèi)器對新數據進(jìn)行類(lèi)別預測。

55 、The two me thods were also applied to Kenli County, but the result of unsupervised classifi cation is better than that of supervised classification.───墾利縣由于地處濱海鹽漬土地區，光譜差異性小，因而非監督分類(lèi)的結果優(yōu)于監督分類(lèi)的結果。

56 、A one-class classifier is fitted to detect the “ill-represented” data objects by enclosing all “good” dataobjects in a hypersphere.───建立了一個(gè)用于檢測非正常數據對象的一類(lèi)分類(lèi)器,檢測數據對象是否在正常值超球體范圍內。

57 、Extracting initial strongly negative data set from positive data and unlabeled data is a base for constructing a PU-oriented text classifier by two stage frame method.───利用正樣例集合和未標識樣例集合獲取初始的最強反例集合是使用兩步框架方法構造一個(gè)面向PU問(wèn)題文本分類(lèi)器的基礎。

58 、These eigenvalues should be compared with the orthonormal circular and triangular eigenvalues which are prepared in advance.A euclid-distance classifier is designed for comparing.───將相應子區域的特征值與事先準備好的環(huán)形和三角形路標特征值用歐式距離分類(lèi)器進(jìn)行比較判別。

59 、As the third-generation dynamic air classification equipment, turbo air classifier has high classification precision and good classification performance.───作為第三代動(dòng)態(tài)空氣分級設備，渦流空氣分級機具有分級精度高、分級性能好的特點(diǎn)。

60 、A novel nonparametric classifier called NNL classifier is introduced to detect double-talk.───一種稱(chēng)為NNL分類(lèi)器的新的非參數分類(lèi)器被用來(lái)檢測雙端通話(huà)。

61 、Using pseudowords we can overcome data sparseness problem in supervised WSD and fully verify the experimental effect of word sense classifier.───使用偽詞可以避免有指導的詞義消歧方法中的數據稀疏問(wèn)題，充分驗證詞義分類(lèi)器的實(shí)驗效果。

62 、Introduces an improved Bayesian classifier,which uses the skipping window technology to reform the reaction time and facilitate the control of the intrusion detection system.───介紹了一個(gè)改進(jìn)的貝葉斯分類(lèi)器,其中利用了滑動(dòng)窗口技術(shù)改善入侵檢測的實(shí)時(shí)性能和可控制性能。

63 、WNN can be seen as a classifier to distinguish the corrupted or uncorrupted pixels from others in both approaches.───在兩種方案中，WNN都可以看作是一個(gè)區分污染與未污染像素的分類(lèi)器。

64 、LCS can't scan all the state space when condition attributes contain continuous values, so continuous learning classifier system is one of the major aspects in LCS research.───當環(huán)境輸人包含連續屬性時(shí)，經(jīng)典LCS無(wú)法遍歷整個(gè)狀態(tài)空間。

65 、What we're about to ask you is classified.─── 我們將要問(wèn)你的事情屬于機密

66 、The air from the classifier bag filter will be sent either to the chimney or partially or totally recycled to the classifier air inlet.───分類(lèi)囊式集[濾]塵器排出的空氣將被排進(jìn)煙囪或者部分或全部地送到分類(lèi)空氣入口進(jìn)行回收利用.

67 、Replacing a classifier by a cyclone in classification is a tendency.───在磨礦分級作業(yè)中,采用旋流器替代分級機進(jìn)行分級是發(fā)展的趨勢。

68 、To sum up, the event noun has a strong tendency of combination with the medium [+timeliness] classifier subcategory.───總體來(lái)看，事件名詞傾向于選擇時(shí)間不強也不弱，即時(shí)間性居中的動(dòng)量詞、時(shí)量詞或名量詞小類(lèi)。關(guān)鍵詞 語(yǔ)料庫；語(yǔ)義特征；時(shí)間性；

69 、The airflow pre-dispersion equipment was installed in a turbo air classifier before the raw materials were classified.───在物料進(jìn)入渦流空氣分級機前采用了氣流預分散裝置,使物料懸浮分散并輸送到分級機中。

70 、Experimental results show that the proposed approach is more accurate in image semantic classification than other ones, such as SVMs classifier using color and textural features.───實(shí)驗結果表明，本文提出的方法在圖像語(yǔ)義分類(lèi)的準確性方面要優(yōu)于諸如采用色彩特征和紋理特征的支持向量機分類(lèi)器的其它方法。

71 、You can adopt Darren, which will log you in as Darren , and log you out from your existing classifier (if any).───您可以采用Darren，那樣您即為 Darren 登入，而從您現在用的云形狀分級器登出（如果有的話(huà)）。

72 、In order to evaluate the classification efficiency of a classifier, this paper introduces the concepts of classification cut size and collection cut size.───為了評價(jià)分級機的分級效果，本文引入了分級粒徑和收集粒徑的概念。

73 、Generate mass of pseudo radar signals to overload the ESM classifier.───產(chǎn)生大量的假雷達信號，使ESM分類(lèi)器過(guò)載；

74 、BAN,i. e. BN augmented Na?ve-Bayes,is an augmented Bayesian network classifier,whose accuracy is easy to improve by the Boosting technique.───BAN(BN augmented Na?ve-Bayes)是一種增強的貝葉斯網(wǎng)絡(luò )分類(lèi)器,通過(guò)提升很容易提高其分類(lèi)性能.

75 、Furthermore, the experimental results show that the classifier presents a new method for the EMG control of the multi-DOF prosthetic hand.───實(shí)驗結果表明，該分類(lèi)器為多自由度肌電假手的控制提供了一種有效的方法。

76 、This is a classified operation, has been from the beginning.─── 這是機密事務(wù) 從一開(kāi)始就是

77 、You can adopt dbelam, which will log you in as dbelam , and log you out from your existing classifier (if any).───您可以采用dbelam，那樣您即為 dbelam 登入，而從您現在用的云形狀分級器登出（如果有的話(huà)）。

78 、You can adopt Jack Spratt, which will log you in as Jack Spratt , and log you out from your existing classifier (if any).───您可以采用Jack Spratt，那樣您即為 Jack Spratt 登入，而從您現在用的云形狀分級器登出（如果有的話(huà)）。

79 、On the basis of switch and relay protecting information of substation, an approach to substation fault diagnosis is proposed based on rough sets theory and bayesian classifier.───以變電站的開(kāi)關(guān)繼電保護信息為基礎,提出了一種基于粗糙集理論和貝葉斯分類(lèi)器的變電站故障診斷方法。

80 、which I can't, because It's classified.─── 而我不能說(shuō) 因為... 這是機密

81 、The experimental results show that the Bayesian classifier can be successful in categorization for Chinese journals efficiently and correctly.───實(shí)驗結果表明，該分類(lèi)器對中文期刊的分類(lèi)具有很好的高效性和準確性。

82 、When it is used between ball mill mated with magnetic liner and classifier, the underflow ratio and grinding efficiency are increased.───應用于使用磁性襯板的球磨機與分級機之間,可提高返砂比和磨礦效率。

83 、Combining this idea with standard SVM classifier and adding a mixed data sets near the interface, a new SVM learning algorithm is proposed for classification of small data sets.───在標準SVM分類(lèi)器訓練方法中融入這種思想，給分類(lèi)面附近加入混合數據，提出了一種新的基于SVM的分類(lèi)器設計方法，并將這種方法應用于小樣本數據的分類(lèi)問(wèn)題中。

84 、The effect of the structure of the rotors with openings in the bottom plate and without openings on the classification characteristics of a turbo air classifier was investigated.───分級精度是衡量分級機性能的重要指標,取決于分級機的結構,轉籠的轉速、風(fēng)速、喂料速度以及物料性能等因素。

85 、Stump Network text classifier is compared with naive bayes text classifier and TAN(tree augmented naive bayes) by an experiment.───將該方法與樸素貝葉斯文本分類(lèi)器和TAN(tree augmented naive bayes)文本分類(lèi)器進(jìn)行實(shí)驗比較。

86 、You can adopt cloudboy, which will log you in as cloudboy , and log you out from your existing classifier (if any).───您可以采用cloudboy，那樣您即為 cloudboy 登入，而從您現在用的云形狀分級器登出（如果有的話(huà)）。

87 、Because neural networks have a very strong ability in pattern recognition, an NN classifier is used in the multi-parameter recognition of fault signals.───充分利用了神經(jīng)網(wǎng)絡(luò )極強的模式分類(lèi)能力，用神經(jīng)網(wǎng)分類(lèi)器對故障信號進(jìn)行多參量識別。

88 、As to classifier designation, first simple Euclidian distance classifier is used, then back-propagation network is utilized. At last a data fusion scheme is realized.───在分類(lèi)器設計方面,最初采用了簡(jiǎn)單的加權歐氏距離判別法,然后利用了BP(Back-Propagation)網(wǎng)絡(luò ),之后提出了一個(gè)數據融合的混合實(shí)現方案。

89 、Yeah, you don't have to classify him.─── 沒(méi)必要給所有人都貼上標簽

90 、This example demonstrates how to use WEKA s SVMs classifier in Matlab.───(譯)：這個(gè)例子演示了如何使用WEKA縣支持向量機分類(lèi)器在Matlab 。

extratreeclassifier和randomforestclassifier的區別

主要區別：

1、randomForest應用的是Bagging模型,extraTree使用的所有的樣本，只是特征是隨機選取的，因為分裂是隨機的，所以在某種程度上比隨機森林得到的結果更加好

2、隨機森林是在一個(gè)隨機子集內得到最佳分叉屬性，而ET是完全隨機的得到分叉值，從而實(shí)現對決策樹(shù)進(jìn)行分叉的。

randomforest的隨機包含的意思是：

樣本隨機/特征隨機 /參數隨機 /模型隨機（ID3 ,C4.5）

extratree隨機包含的意思是：

特征隨機 /參數隨機 /模型隨機（ID3 ,C4.5） /分裂隨機

分類(lèi)器輸入參數的條件

1、線(xiàn)性分類(lèi)器（Linear Regression）

     1.1貝葉斯分類(lèi)器

          樸素貝葉斯（Naive Bayes）分類(lèi)器，以垃圾郵件分類(lèi)為例子，需要特征之間滿(mǎn)足條件獨立的假設；

      局限性：

      （1）要求自變量和因變量之間滿(mǎn)足線(xiàn)性關(guān)系；

      （2）樸素貝葉斯要求特征之間滿(mǎn)足條件獨立，不能學(xué)習特征之間的相互作用。

          滿(mǎn)足條件以后，根據最大后驗概率（MAP）準則：maxθ P(y|x)=P(x|y)*P(y)/P(x) <=> maximizing Πi=1mp(x(i),y(i))，計算出三個(gè)參數：Øi|y=1 =p(xi=1|y=1)，Øi|y=0 =p(xi=1|y=0)，Øy =p(y=1).

有了這些參數以后，對新的一個(gè)特征為x的樣本進(jìn)行預測，只要簡(jiǎn)單計算：p(y=1|x) = p(x|y=1)*p(y=1)/p(x) = (Πi=1n p(xi|y=1))*p(y=1)/[(Πi=1n p(xi|y=1))*p(y=1)+(Πi=1n p(xi|y=0))*p(y=0)].

      1.2  Logistic Regression分類(lèi)器

      Logistic Regression Cost Function:   minθ 1/m ∑i=1m [ y(i)*cost1(θTx(i))+(1-y(i))*cost0(θTx(i)) ]  +λ /(2m)  *∑nj=1 θ2j   （ cost1(θTx(i))=-log hθ(x(i)),  cost0(θTx(i))=-log(1-hθ(x(i)))      ）

                                            hθ(x(i))=1/(1+e-θTx(i))=g(z)

      成本函數的第一項，損失項，是為了使得模型預測的誤差最小，而第二項規則化項則是為了使得模型盡可能簡(jiǎn)單。

      從logistic回歸的成本函數表達式可以看出，第二項作為regularization items（懲罰項），其中的θ對成本函數的作用與第一項中θ的作用是相反的，添加了懲罰項后，由參數λ調節控制，前后兩項相互制約，使得θ既不能過(guò)大也不能過(guò)小，最終平衡到一個(gè)合適的值，使得訓練集和測試集效果接近。但是從logistic的假設函數hθ來(lái)看，如果數據不是線(xiàn)性可分，則效果還是不好的。

      局限性：

      （1）自變量對疾病的影響是獨立的，但實(shí)際情況及推導結果不同；

      （2）訓練集的樣例數目要有200例以上才可不考慮參數估計的偏性；

      （3）logistic分類(lèi)器說(shuō)到底是線(xiàn)性分類(lèi)器，如果數據不是線(xiàn)性可分的，還是不能用logistic回歸

2、  SVM classifier

      SVM分類(lèi)器既可以作為線(xiàn)性分類(lèi)器，也可以作為非線(xiàn)性分類(lèi)器，這主要取決于它的核函數。

      如果不使用kernel（saying:'linear kernel'），則它是一個(gè)線(xiàn)性分類(lèi)器；如果使用其他的核函數（e.g. Gaussian kernel），則是一個(gè)非線(xiàn)性分類(lèi)器，具有非線(xiàn)性判決邊界。

      更具體地說(shuō)，核函數的作用，是在輸入樣本線(xiàn)性不可分的情況下，通過(guò)函數映射將輸入樣本映射到另外一個(gè)高維空間并使其線(xiàn)性可分。

     SVM作為線(xiàn)性分類(lèi)器主要用在特征數目n很大，樣本數據m很小的情況。因為如果你的訓練樣本很少，再采用復雜的分類(lèi)函數，就會(huì )很容易出現過(guò)擬合。SVM作為非線(xiàn)性分類(lèi)器主要用在特征數目很少，樣本數目非常多的情況。因為如果你有非常多的訓練樣本，就可以采用非線(xiàn)性判決邊界，去獲得更加準確的分類(lèi)效果。

      Logistic Regression Cost Function:   minθ 1/m ∑i=1m [ y(i)*cost1(θTx(i))+(1-y(i))*cost0(θTx(i)) ]  +λ /(2m)  *∑nj=1 θ2j   （ cost1(θTx(i))=-log hθ(x(i)),  cost0(θTx(i))=-log(1-hθ(x(i)))      ）

      SVM Cost Function:                           minθ    C*{ ∑i=1m [ y(i)*cost1(θTf(i))+(1-y(i))*cost0(θTf(i)) ]  +  1/2 *∑nj=1 θ2j     }          （ cost1(θTf(i))=-log hθ(x(i)),  cost0(θTf(i))=-log(1-hθ(x(i)))      ）

      對比logistic回歸和SVM的成本函數，發(fā)現它們在形式上是一樣的，不同之處其實(shí)僅僅在于假設函數hθ。logistic回歸的判斷依據是θTx(i)>>0, y=1;θTx(i)<<0, y=0;即其分類(lèi)依據是要讓成本函數整個(gè)的要盡可能??；而SVM分類(lèi)器判別依據是：θTx(i)>=1, y=1;θTx(i)<=-1, y=0;即只要判為1的點(diǎn)和判為0的點(diǎn)都距離boundary有1的單位間隔就好了，所以SVM分類(lèi)器又叫做“最大間隔分類(lèi)器”。

      而SVM不同于logistic的假設函數hθ，成就了它非線(xiàn)性分類(lèi)的優(yōu)勢。

      在上面的成本函數中，第二項體現了SVM被稱(chēng)為“l(fā)arge margin classifier”(最大間隔分類(lèi)器)的原理（根據計算內積的原理推導，約束條件是假設函數成立（即y=1時(shí)，θTx(i)>=1,此時(shí)cost1=0；y=0時(shí)，θTx(i)<=-1，此時(shí)cost0=0），此時(shí)第一項為0，只剩第二項。實(shí)際上還是取決于假設函數hθ(x(i))）；第一項中的假設函數hθ(x(i))，以及核函數X--->f的映射，決定了SVM non-linear classifier的性質(zhì)；第一項中的常數C，相當于logistic回歸 regularization項中的參數λ，起到調節參數個(gè)數（即特征個(gè)數），防止過(guò)擬合的作用。

      局限性：

      （1）由于SVM的核函數本質(zhì)上的作用還是為了生成新的特征，因此，對于特征數目遠遠大于樣本數目的數據來(lái)說(shuō)，先進(jìn)行特征篩選是非常有必要的，否則，會(huì )很容易出現過(guò)擬合；

      （2）核函數的選擇需要依靠經(jīng)驗；

3、線(xiàn)性分類(lèi)器與非線(xiàn)性分類(lèi)器的區別

（1）線(xiàn)性分類(lèi)器：

對于線(xiàn)性可分數據，用一條直線(xiàn)可以完成分類(lèi)：

對于線(xiàn)性不可分的數據，線(xiàn)性分類(lèi)器的最優(yōu)方法是使平方誤差最?。?/p>

（2）非線(xiàn)性分類(lèi)器：

對于非線(xiàn)性分類(lèi)，則要經(jīng)過(guò)一些特殊的變換，將樣本轉換成線(xiàn)性可分的形式，這期間可能用到非線(xiàn)性核函數，或者非線(xiàn)性分類(lèi)器；又或者人工知道如何進(jìn)行轉換的話(huà)，先將樣本映射到線(xiàn)性可分的空間中，再使用線(xiàn)性分類(lèi)器：

如上圖所示，因為非線(xiàn)性分類(lèi)器能夠生成非常復雜的分類(lèi)界面，因此它們常常有更準確的分類(lèi)結果。不過(guò)前提是樣本數目足夠多，以不至于造成過(guò)擬合。

非線(xiàn)性分類(lèi)器有決策樹(shù)、神經(jīng)網(wǎng)絡(luò )等。

4、決策樹(shù)分類(lèi)

    決策樹(shù)分類(lèi)器的優(yōu)點(diǎn)：

    首先，決策樹(shù)方法能夠生成可以理解的規則；

    其次，決策樹(shù)算法的計算量相對來(lái)說(shuō)不是很大；

    第三，決策樹(shù)算法可以處理連續和離散數據；

    第四，決策樹(shù)可以清晰地顯示出屬性的重要程度。決策樹(shù)是通過(guò)計算信息熵選擇分裂屬性的，而信息熵正是該屬性重要性的度量標量。

1）ID3算法:使用信息增益（衡量屬性對樣例的區分能力）來(lái)選擇哪個(gè)屬性作為分類(lèi)的測試節點(diǎn)。

            基本思想：

自頂向下的貪婪搜索遍歷可能的決策樹(shù)空間構造決策樹(shù)(此方法是ID3算法和C4.5算法的基礎)；

從“哪一個(gè)屬性將在樹(shù)的根節點(diǎn)被測試”開(kāi)始；

使用統計測試來(lái)確定每一個(gè)實(shí)例屬性單獨分類(lèi)訓練樣例的能力，分類(lèi)能力最好的屬性作為樹(shù)的根結點(diǎn)測試(如何定義或者評判一個(gè)屬性是分類(lèi)能力最好的呢？ID3算法使用的是信息增益，or 信息增益率)。

然后為根結點(diǎn)屬性的每個(gè)可能值產(chǎn)生一個(gè)分支，并把訓練樣例排列到適當的分支（也就是說(shuō)，樣例的該屬性值對應的分支）之下。

重復這個(gè)過(guò)程，用每個(gè)分支結點(diǎn)關(guān)聯(lián)的訓練樣例來(lái)選取在該點(diǎn)被測試的最佳屬性。

這形成了對合格決策樹(shù)的貪婪搜索，也就是算法從不回溯重新考慮以前的選擇。

2）C4.5算法

C4.5算法是ID3的一種改進(jìn)算法，其相比于ID3有以下優(yōu)點(diǎn)：

用信息增益率來(lái)選擇屬性。ID3選擇屬性用的是子樹(shù)的信息增益，這里可以用很多方法來(lái)定義信息，ID3使用的是熵(entropy，熵是一種不純度度量準則),也就是熵的變化值，而C4.5用的是信息增益率。對，區別就在于一個(gè)是信息增益，一個(gè)是信息增益率。

在樹(shù)構造過(guò)程中進(jìn)行剪枝，在構造決策樹(shù)的時(shí)候，那些掛著(zhù)幾個(gè)元素的節點(diǎn)，不考慮最好，不然容易導致overfitting。

對非離散數據也能處理。

能夠對不完整數據進(jìn)行處理

點(diǎn)評：

form Wind：決策樹(shù)使用于特征取值離散的情況，連續的特征一般也要處理成離散的(而很多文章沒(méi)有表達出決策樹(shù)的關(guān)鍵特征or概念)。實(shí)際應用中，決策樹(shù)overfitting比較的嚴重，一般要做boosting（Boosting是一種提高任意給定學(xué)習算法準確度的方法。）。分類(lèi)器的性能上不去，很主要的原因在于特征的鑒別性不足，而不是分類(lèi)器的好壞，好的特征才有好的分類(lèi)效果，分類(lèi)器只是弱相關(guān)。

那如何提高 特征的鑒別性呢？一是設計特征時(shí)盡量引入domain knowledge，二是對提取出來(lái)的特征做選擇、變換和再學(xué)習，這一點(diǎn)是機器學(xué)習算法不管的部分(我說(shuō)的這些不是針對決策樹(shù)的，因此不能說(shuō)是決策樹(shù)的特點(diǎn)，只是一些機器學(xué)習算法在應用過(guò)程中的經(jīng)驗體會(huì ))。