首页
学习
活动
专区
圈层
工具
发布
社区首页 >问答首页 >Matlab中的Logistic回归梯度下降

Matlab中的Logistic回归梯度下降
EN

Stack Overflow用户
提问于 2014-02-20 19:15:00
回答 1查看 8.3K关注 0票数 2

这是代码

代码语言:javascript
复制
function [theta] = LR(D)
% D is the data having feature variables and class labels

% Now decompose D into X and C 
%Note that dimensions of X =  , C = 

C = D(:,1);
C = C';
size(C)
X = D(:,2:size(D,2));
size(X)
alpha = .00001;

theta_old = zeros(1,34);
theta_new = .001.*ones(1,34);
count = 1;
for count = 1:100000
    theta_old = theta_new;
    theta_new = theta_new + alpha*(C-sigmoid(X*theta_new')')*X;
    llr =  sum(LLR((X*theta_new').*(C'))) 
end
thetaopt = theta_new


end


function a = LLR( z )
a= 1.*log(1.0 + exp(-z));
end

function a = sigmoid(z)
 a = 1.0 ./ (1.0 + exp(-z));
 end

我遇到的问题是,对数似然比先减小,然后开始增加。这是梯度下降算法的问题还是代码的问题。

EN

回答 1

Stack Overflow用户

回答已采纳

发布于 2014-02-21 03:40:04

看起来你的目标函数可能有问题。

如果标签(C)在{0,1}中,那么您应该使用丢失C.*LLR(X*theta')+(1-C).*(LLR(X*theta')+X*theta')

如果您的标签在{-1,1}中,那么丢失的应该是LLR(C.*X*theta')

您似乎只使用了第一类损失函数的第一部分。

票数 1
EN
页面原文内容由Stack Overflow提供。腾讯云小微IT领域专用引擎提供翻译支持
原文链接:

https://stackoverflow.com/questions/21917353

复制
相关文章

相似问题

领券
问题归档专栏文章快讯文章归档关键词归档开发者手册归档开发者手册 Section 归档