“深度神经网络”（Deep Neural Network, DNN）是指那些包含大量层次的神经网络。然而，将一个神经网络定义为“深度”的确切层数没有固定的标准。不过，随着计算能力的提升和数据量的增加，现代的深度学习模型通常包含更多的层。
2024年04月18日
“深度神经网络”（Deep Neural Network, DNN）是指那些包含大量层次的神经网络。然而，将一个神经网络定义为“深度”的确切层数没有固定的标准。不过，随着计算能力的提升和数据量的增加，现代的深度学习模型通常包含更多的层。
2024年04月18日
摘要： 本文讲述Net-Trim：无性能损失的深度神经网络凸精简，修剪掉神经网络中93%的无用神经元，但能保证无任何性能损失。
在2017年神经信息处理系统大会（NIPS）中的一篇论文里，我和我的团队提出了一个叫做Net-Trim的AI优化框架，其使用逐层凸体系（layer-wise convex scheme）来精简预训练深度神经网络。
2024年04月18日
训练一个深度神经网络以实现最佳的性能是一件具有挑战的任务。在本文中，我将会探索这项任务中最常见的问题及其解决方案。这些问题包括网络训练时间过长，梯度消失与爆炸以及网络初始化，我们在此统称为优化问题。而在训练网络中出现的另一类问题则称作正则化问题，对此，我已经在之前的文章中讨论过了，如果你没有阅读过，可以点击下方链接阅读原文。
2024年04月18日
1.介绍
如何构建能够学习复杂关系的神经网络，这里的关键思想是模块化（modularity），从简单的功能单元构建一个复杂的网络。我们已经了解了线性单元是如何计算线性函数的——现在我们将了解如何组合和修改这些单元，以建立更复杂的关系模型。
2024年04月18日
新智元推荐
解析深度网络背后的数学
如今，已有许多像 Keras, TensorFlow, PyTorch 这样高水平的专门的库和框架，我们就不用总担心矩阵的权重太多，或是对使用的激活函数求导时存储计算的规模太大这些问题了。基于这些框架，我们在构建一个神经网络时，甚至是一个有着非常复杂的结构的网络时，也仅需少量的输入和代码就足够了，极大地提高了效率。无论如何，神经网络背后的原理方法对于像架构选择、超参数调整或者优化这样的任务有着很大的帮助。
2024年04月18日
人工神经元（Artificial Neuron），简称神经元，是构成神经网络的基本单元。典型的神经元结构如下：
典型的神经元结构
2024年04月18日
晓查 发自 凹非寺
量子位 报道 | 公众号 QbitAI
“不要回答！不要回答！不要回答！”
刘慈欣在为自己的科幻小说起名为《三体》时，他早已知道“三体”本身就是一个不可回答的问题。
“三体问题”已经困扰了人类几百年，曾经无数让你感到恐惧的大牛都为此付出了巨大的心血，比如牛顿、欧拉、拉格朗日、庞加莱，直到今天还有很多人在研究。
2024年04月17日
MySQL和MSSQL（Microsoft SQL Server），应该是我们开发系统最常用的两种后台数据库了。因为常用，大家可能更关注两者之间的差别。今天多列举一些细微的区别，希望对那些对两个数据库都有兴趣的朋友有所帮助。
1、MySQL支持enum、set类型，MSSQL不支持。