当前位置:首页 » 梯度 - 第1页

05月18日

AutoZOOM: Autoencoder-based Zeroth Order Optimization Method for Attacking Black-box Neural Networks_hunt_chen的博客

发布 : zsy861 | 分类 : 《随便一记》 | 评论 : 0 | 浏览 : 353次
AutoZOOM: Autoencoder-based Zeroth Order Optimization Method for Attacking Black-box Neural Networks_hunt_chen的博客

AutoZOOM:Autoencoder-basedZerothOrderOptimizationMethodforAttackingBlack-boxNeuralNetworksAbstract最近的研究表明,当目标模型被称为白盒设置(whiteboxsetting)时,由深度神经网络(DNN)训练的最先进图像分类器中的对抗样本可以很容易地生成。然而,当攻击已部署的机器学习服务时ÿ

05月07日

动手学深度学习——线性回归的从零开始实现_橙子的博客

发布 : zsy861 | 分类 : 《随便一记》 | 评论 : 0 | 浏览 : 381次
动手学深度学习——线性回归的从零开始实现_橙子的博客

我们将从零开始实现整个方法,包括流水线、模型、损失函数和小批量随机梯度下降优化器。importosimportmatplotlib.pyplotasplt#其中matplotlib包可用于作图,且设置成嵌入式importtorchfromIPythonimportdisplayfrommatplotlibimportpyplotaspltimportnumpyasnpimportrandom我们构造⼀个简单的⼈⼯训练数据集,给定随机⽣成的批量样本特征,我们使⽤线性回归模型真实权重和偏差b=4.2,以

04月08日

Federated Meta-Learning with Fast Convergence and Efficient Communication 论文阅读笔记+关键代码解读_编程龙的博客

发布 : zsy861 | 分类 : 《随便一记》 | 评论 : 0 | 浏览 : 345次
Federated Meta-Learning with Fast Convergence and Efficient Communication 论文阅读笔记+关键代码解读_编程龙的博客

论文地址点这里一.介绍联邦学习中数据是非独立同分布的,基于FedAvg算法成功后,作者发现元学习算法MAML应对客户端上数据量较少,数据分布不均的场景提出了FedMeta框架,作为连接元学习方法和联邦学习的桥梁。在元学习中,参数化算法通过元训练过程从大量任务中慢慢学习,在元训练过程中,算法在每个任务中快速训练特定的模型。任务由互不关联的支持集和查询集组成。在支持集上训练特定的模型,然后在查询集上进行

03月28日

深度学习面试必备的25个问题_AI科技大本营

发布 : zsy861 | 分类 : 《随便一记》 | 评论 : 0 | 浏览 : 326次
深度学习面试必备的25个问题_AI科技大本营

作者|TomerAmit译者|弯月,编辑 |屠敏出品|CSDN(ID:CSDNnews)在本文中,我将分享有关深度学习的25个问题,希望能够帮助你为面试做好准备。1.为什么必须在神经网络中引入非线性?答:否则,我们将获得一个由多个线性函数组成的线性函数,那么就成了线性模型。线性模型的参数数量非常少,因此建模的复杂性也会非常有限。2.说明解决神经网络中梯度消失问题的两种方法。答:使用ReLU激活函数代替S激活函数。使用Xavi

03月09日

python与R语言手推logistic回归(梯度下降法/牛顿法)_Auraro__的博客

发布 : zsy861 | 分类 : 《随便一记》 | 评论 : 0 | 浏览 : 358次
python与R语言手推logistic回归(梯度下降法/牛顿法)_Auraro__的博客

概念及应用:logistic回归主要用于分类问题中,遇到k分类问题时则转化为k个二分类问题即可。logistic回归是将logit曲线套用在解释变量线性组合上,利用极大似然法进行参数估计,将似然函数(二项分布交叉熵)作为目标函数,利用最优化方法(牛顿法、梯度下降法)进行求解。python实现数据载入及切分fromsklearnimportdatasetsfromskl

02月11日

常见的激活函数_init__的博客

发布 : zsy861 | 分类 : 《休闲阅读》 | 评论 : 0 | 浏览 : 345次
常见的激活函数_init__的博客

如有转载,请注明出处常用激活函数列表nameplotequationsigmoidf(x)=

02月03日

榕树贷款用C++实现低对比度图像脏污区域检测_dongsijia的博客

发布 : zsy861 | 分类 : 《休闲阅读》 | 评论 : 0 | 浏览 : 363次
榕树贷款用C++实现低对比度图像脏污区域检测_dongsijia的博客

第一种是榕树贷款用C++实现参考博文的方法,即利用梯度方法来检测,具体步骤如下:榕树贷款对图像进行高斯模糊去噪,梯度计算对噪声很敏感;调用Sobel函数计算图像在x,y方向梯度;调用convertScaleAbs函数将x,y梯度图像像素值限制在0-255;调用addWeight函数将x,y梯度图像融合;调用threshold函数对融合图像进行二值化;使用先腐蚀、后膨胀的形态学处理方法对二值图像进行非脏污区域过滤;调用findContours方法查找脏污区域轮廓。第二种方法是榕树贷

01月17日

G.Jerry的共轭梯度法笔记_baolan2020的博客

发布 : zsy861 | 分类 : 《关注互联网》 | 评论 : 0 | 浏览 : 496次
G.Jerry的共轭梯度法笔记_baolan2020的博客

该笔记初衷为期末复习所用,引用出处均已注明,涉及个人理解部分如果有不对之处,还请批评指正,俺会虚心接受滴!1.应用范围    目标函数的无约束绩效问题。2.相关定义定义1 设Q为n阶实对称正定矩阵,若n维方向x和y满足,则称方向x和y是Q-共轭的。3.原理    将函数改写成如下形式:    如果每个子函数都能取得最小值,那么f(x)也能取得最小值。假设梯度下降一共需要n阶(也就是迭代次数啦),每个对应一个阶梯,每阶的方向和步长都使取得最小

11月06日

本科生学深度学习-史上最容易懂的RNN文章,小白也能看得懂,评论继续送书_香菜

发布 : zsy861 | 分类 : 《随便一记》 | 评论 : 0 | 浏览 : 514次
本科生学深度学习-史上最容易懂的RNN文章,小白也能看得懂,评论继续送书_香菜

目录1、rnn是什么2、原理说明2.1rnn和全连接神经网略的区别2.2RNN简单图解释2.3RNN展开图解释2.4RNN的一些点3、rnn的伪代码表示4、来个小例子5、rnn存在的问题6、总结最近写了一些基础的东西,总是理解性的,没有看到实例,今天就讲一个基础的网络结构RNN,然后写个实例,体验下深度神经网络的牛逼,这次学习下rnn神经网络,虽然看起来好高深,不过不用慌,没有理论,全是大白话,大家都可以懂的。注:阅读的时候

10月09日

⚡机器学习⚡中的优化器(Optimizers)方法_应无所住而生其心

发布 : zsy861 | 分类 : 《资源分享》 | 评论 : 0 | 浏览 : 349次
⚡机器学习⚡中的优化器(Optimizers)方法_应无所住而生其心

⚡终于!!!⚡终于又有时间学习DeepLearning了⚡!30天ML计划,一起加油!!!https://blog.csdn.net/weixin_44333889/category_11271153.html《专栏》在训练NN的时候,有哪些Optimizers可以优化更快的找到globalMinima?下面我们来看下有哪些方法可以优化求解。Back

关于我们 | 我要投稿 | 免责申明

Copyright © 2020-2022 ZhangShiYu.com Rights Reserved.豫ICP备2022013469号-1