1回答
深层神经网络与大数据分析
、、、
我是一名准PhD (CS)学生。在我的MS研究期间，我在异常检测领域工作过。现在，我有两个主要的和最近出现的领域可供选择，即深度神经网络和大数据分析。然而，我必须选择一个作为我未来的工作领域。
我想把其中一个领域和我以前的工作联系起来，那就是异常检测。此外，我还要问两个问题：
深层神经网络与大数据分析，哪一种更适合异常检测？
深层神经网络与大数据分析相比，未来还有更大的发展空间吗？
浏览 4提问于2017-06-06得票数 0
回答已采纳
1回答
数据分析中的数据量是否重要？
、、、、
因此，我想知道数据分析是否可以通过使用少量的数据来完成，比如存储在database.If中的100到1000个记录--我这样做了--那么它是数据分析吗？
有人说，如果你分析的是少量的数据，那根本就不是数据分析。
所以我把数据分析和大数据混淆了。有人能回答我这个问题吗？
我要提前感谢你
浏览 0提问于2019-02-01得票数 0
回答已采纳
1回答
我正在寻找一个好的入门书或课程的大数据分析。在实际应用方面，我对在R中使用大数据工具特别感兴趣。
我想要一本书，但欢迎其他参考资料。
谢谢!
浏览 0提问于2016-11-21得票数 1
回答已采纳
9回答
R有许多针对数据分析(如JAGS、BUGS、ARULES等)的库，并在流行的教科书中被提到，如: J.Krusche，进行贝叶斯数据分析；B.Lantz，“机器学习与R”。
我已经看到了5TB的指南，将数据集视为大数据。
我的问题是:R是否适合在大数据问题中通常看到的数据量？在这样的数据集中使用R时是否使用策略？
浏览 0提问于2014-05-14得票数 55
回答已采纳
1回答
500G 在哪儿能找到资料？
、、、、
500G python web、爬虫、数据分析、机器学习、大数据、前端实战项目视频代码免费分享
在哪儿能下载到资料，在线等，挺急的~， 感谢各位大佬~
浏览 248提问于2019-05-10
2回答
最佳编程语言
、、
我精通纯粹的统计学。我不懂任何编程语言。这是我应该学习的最好的编程语言，它将有助于提高我在数据分析方面的职业生涯。
我对概念只有理论知识。请推荐一项技能，我应该发展成为一名数据分析员。
浏览 0提问于2018-07-06得票数 1
2回答
如何使用NoSQL数据库(如MongoDB )进行数据分析？它们中有哪些特性可以使数据分析更快、更强大？
浏览 0提问于2014-07-21得票数 21
回答已采纳
3回答
我读过很多关于不同行业如何使用大数据分析的博客文章。但这些文章大多没有提到
这些公司使用了什么样的数据。数据有多大？
他们用来处理数据的工具是什么？
他们面临的问题是什么，他们得到的数据是如何帮助他们解决问题的。
他们如何选择工具\技术来满足他们的需要。
他们从数据中识别出了什么样的模式&他们从数据中看到了什么样的模式。
我想知道是否有人能为我提供所有这些问题的答案或一个链接，至少回答一些问题。我正在寻找现实世界的例子。
如果有人能分享金融业是如何利用大数据分析的，那就太好了。
浏览 0提问于2014-06-11得票数 14
2回答
我目前正在做(开始)我的大数据和数据可视化项目。所以请让我知道有没有最好的软件来处理大数据和数据可视化，即数据分析。
浏览 3提问于2013-01-17得票数 0
回答已采纳
2回答
我试图掌握大数据，主要是如何管理大数据。
我熟悉数据管理和数据生命周期的传统形式；例如：
收集的结构化数据(如网页表格)
存储在数据库服务器RDBMS中的表中的数据
数据清理后，ETL进入数据仓库
数据使用OLAP多维数据集和其他各种BI工具/技术进行分析。
但是，在大数据的情况下，我对第2点和第3点的等效版本感到困惑，主要是因为我不确定每个大数据“解决方案”是否总是涉及使用NoSQL数据库来处理和存储非结构化数据，以及数据仓库的大数据等效是什么。
据我所见，在某些情况下，NoSQL并不总是被使用，而且可以完全省略--这是真的吗？
对我来说，大数据生命周期就是这样的：
浏览 7提问于2017-04-20得票数 7
回答已采纳
2回答
这个网站已经有了很好的答案，比如什么是DevOps和什么是SecOps。
随着时间的推移，我逐渐认识到，当敏捷方法的哲学应用于运营时，意见就诞生了DevOps。SecOps也是如此。
那么，将敏捷方法应用于大数据和数据分析的DataOps会是什么样子呢？这与敏捷软件开发和DevOps有何相似之处？
浏览 0提问于2019-11-13得票数 3
我正在学习数据分析，我想知道是否有一些关于机器学习、数据分析和数据挖掘的好的参考资料和教程。
我正在寻找的是一个可以理解的参考/教程，它不是很技术性的，也不是很基本的，换句话说，材料是从迈向高级步骤的基本步骤开始的。
谢谢。
浏览 0提问于2021-01-25得票数 3
回答已采纳
近日，facebook的数据泄露事件引起广泛讨论，罪魁祸首剑桥分析公司通过数据分析来帮助企业和政党改变受众行为。他甚至声称“只要了解用户的十个赞，就能比用户的同事更准确地评价用户”。那么大数据分析真的有他们所说的那么强吗？这是怎么样做到的？公众的个人隐私又该如何保护？
浏览 856提问于2018-03-26
1回答
我正在从事一个数据分析项目，我已经在我的C#应用程序上尝试了Deedle数据库--我发现Deedle是一个有用的库，它为C#和F#提供了timeseries和dataframe。但是我的问题是，我可以知道这个库和R.Net库有什么不同吗？如果我想做一些数据分析和面向统计的项目，我不应该使用R.Net而不是Deedle库吗？请给我建议。非常感谢
浏览 1提问于2015-03-27得票数 1
我目前正在使用Pandas和星火进行数据分析。我发现Dask提供并行化的NumPy数组和Pandas DataFrame。
熊猫很容易用Python进行数据分析。但是，由于系统内存有限，我发现在Pandas中处理多个更大的数据文件很困难。
简单回答：
Apache是一个集分布式计算、SQL查询、机器学习等多种功能于一体的框架，它运行在JVM上，通常与Hadoop等其他大数据框架协同部署。..。通常，达斯克比火花更小，重量更轻。
我从了解了下面的细节
达斯克重量轻
Dask通常在一台机器上使用，但在分布式集群上也运行良好。
Dask提供并行数组、数据帧、机器学习和自定义算法。
浏览 4提问于2016-08-10得票数 101
1回答
我在寻找更深入的答案。我知道基础知识--小数据分析起来更快，使用大数据你会有更多的能力，等等。但我想知道更多(也许是关于因果推断？)关于每种方法的优点和缺点。谢谢!
浏览 3提问于2017-10-11得票数 1
1回答
我有一个运行了好几个小时的python数据分析脚本，当它在我的桌面上运行时，随着粉丝们的狂热，我意识到我可以在bkgnd中的一个托管账户上远程运行它，然后让它破解。
但我想知道--托管提供商通常不赞成这样的做法吗？他们是否假设我所有的CPU/内存使用都是突发性的--来自我的Apache2实例的使用率，一个运行了12小时的进程会被他们的sysop杀死？
或者他们会认为我是在为使用付费，所以你自己动手吧？我的脚本及其数据是自包含的，没有使用任何网络或数据库资源。
有这方面的经验吗？
浏览 8提问于2015-11-12得票数 0
7回答
Python可以用于许多任务。我想使用Python进行数据分析。哪些Python IDE特别适合数据分析任务。
有关特定于数据分析的集成开发环境的参考，请参阅R语言的RStudio。
浏览 3提问于2014-10-26得票数 0
记忆警告会影响我的R分析吗？
在R中运行大型数据分析脚本时，会收到如下警告：
在..。‘已达到_____Mb的总分配:请参阅帮助.
但我的脚本继续进行，没有错误，只是警告。对于其他数据集，我得到一个错误，类似于：
错误:无法分配大小为___Mb的向量：
我知道这个错误破坏了我的数据分析，但是仅仅得到警告有什么问题吗？我没有注意到我的数据集中有任何缺失，但它非常大，我没有很好的方法来检查所有的东西。我的内存是18000 at，不能合理分配更多内存。
浏览 2提问于2013-02-26得票数 12
我试图理解mongoDB和Hadoop之间的关键区别。我理解mongoDB是一个数据库，而Hadoop是一个包含HDFS的生态系统。使用这两种技术处理数据的方式有一些相似之处，但也有很大的不同。
我不明白为什么有人会在Hadoop集群上使用mongoDB，主要是mongoDB比Hadoop具有什么优势。两者都执行并行处理，两者都可以与Spark一起用于进一步的数据分析，那么什么是一个比另一个的增值。
现在，如果要将两者结合起来，为什么要在mongoDB和HDFS中存储数据呢？MongoDB有map/reduce，所以为什么要将数据发送到hadoop进行处理，而且两者都与Spark兼容。
浏览 1提问于2019-05-07得票数 0
回答已采纳
1回答
如何在大数据和网络分析中起步
、、、、
我目前对大数据分析和网络分析感兴趣，但我不知道如何开始和从哪里开始。我试着上网看看，但有些对我来说是先进的。走这条路之前，我首先需要的是统计学和数学方面的技能和知识吗？
我目前的计划是每个周末参加在线课程，因为我目前在工作日做软件助理工程师，练习大数据所需的编程语言，比如R。我已经获得了计算机科学学位，所以熟悉一些统计和数学方法并不是个问题。任何建议和意见都是非常感谢的！
对于那些已经有经验的人来说，你的经验是怎样的，你最擅长的是什么？
浏览 3提问于2016-04-01得票数 0
回答已采纳
1回答
我已经研究过一些数据库，比如MySQL，但我从来没有专门处理过数据库。我正在进行一个项目，我们打算使用SQLite (出于一些原因:小型、轻量级、快速等)，然后我对它有一些疑问：
SQLite支持多少千兆字节的数据？有限度吗？(我将为每个用户提供一些大型数据表(例如，18列X 80.000行))
读取大量数据快吗？(例如，18列X 80.000行)
关于SQLite，还有其他相关的信息我需要知道吗？(注:我将在Windows和OS上使用它)
附加信息
我正在开发的软件是一个数据分析软件，我只需要使用DB来保存使用一些传感器从用户那里收集到的数据。
我在项目中使用QT5.3.2 (C++)。
浏览 0提问于2016-12-02得票数 0
我需要一个excel公式来帮助我做以下工作。我想读一栏(B)中的“字母”，并“提取”(A)旁边一栏中的值。下面的示例:在下面示例的“结果”列中，我的公式读取B列的所有“g”，然后写入所有相应的值。我无法使用VLOOKUP，因为总是给出第一个找到的"g“的第一个值。有没有办法在这里使用VLOOKUP。我目前的解决方案是以下公式
{=INDEX($A:$B,SMALL(IF($B:$B=J$5,ROW($B:$B)),ROW(1:1)),1)}
(J$5，就是我在B栏中使用的字母"g"，项目)。虽然这个公式有效，但有两个缺点: 1)一旦找不到更多的"g“，返回的是
浏览 0提问于2016-04-14得票数 0
2回答
在一列中有大量的数据。比如250,1250,2250..。
现在，我需要找出列中是否有重复项。
当我尝试使用Excel内置的去重或数据分析功能时。整个列都用红色突出显示。因为它将250和1250视为重复。
有没有办法找出列的唯一值？
浏览 1提问于2017-08-02得票数 0
1回答
我正在尝试实现ElGamal密码系统，我决定使用OpenSSL来生成大素数。我已经看到了几个生成大随机数的函数，但我还没有找到一个生成素数的函数。我应该使用什么函数？
浏览 22提问于2019-05-05得票数 1
回答已采纳
1回答
所以这是一个比较普遍的问题。我是一家初创公司的数据分析师。我的主要流程包括获取客户拥有的现有客户数据，并将其清理/标准化以适应我们的平台，这是我们自注册过程的一部分。我们团队的一名成员从他们正在转换的系统中导出他们的数据，或者，如果他们在内部跟踪数据，我们会收到他们用来跟踪数据的Excel日志。它总是采用不同的格式，并且需要广泛的清理(平均1分钟/条)。我们通常是一个大表(.xlxs格式)，在清理之后，将它拆分为四个.csv文件；我们在我们的平台上以四个表的形式加载它们。
我觉得我已经很好地优化了流程，包括流程步骤和excel函数(if、concat、text-to-column等)的清理。我
浏览 0提问于2017-09-29得票数 0
7回答
我是一个35岁的IT专业人士，纯粹是技术人员。我擅长编程，学习新技术，了解它们和实现。我在学校里不喜欢数学，所以我的数学成绩不好。我对追求大数据分析的职业非常感兴趣。我更感兴趣的是分析，而不是大数据技术(Hadoop等)，尽管我并不不喜欢它。然而，当我在互联网上环顾四周时，我发现，擅长分析的人(数据科学家)主要是数学毕业生，他们完成了PHds课程，听起来像聪明的生物，远远领先于我。有时候，我会害怕自己的决定是否正确，因为你自己学习预先的统计数据是非常困难的，需要艰苦的工作和时间的投入。
我想知道我的决定是否正确，还是应该把这份工作留给那些一生在名校学习并获得学位和博士学位的知识分子。
浏览 0提问于2014-10-06得票数 9
回答已采纳
1回答
服务器间快速传输大数据
、、、
这是一个常见的问题，但在谷歌上搜索会产生很多垃圾。
随着数据量越来越大，加上处理能力和云能力，我们看到对快速数据传输技术的需求越来越大，这些技术能够通过在不同的服务器/客户端之间传播/移动/共享数据来释放所有这些可用数据的能力。
在我们的例子中，我们记录实时二进制数据(每天50吉)，我们需要每天将其上传/下载到/从订阅者(是的，所有这些都是每个订阅服务器本地需要的，用于计算和各种数据分析)。
因此，简单地说，今天有哪些选择可以在远程windows服务器(VPS，Cloud)之间快速传输大量数据(VPS，Cloud，具有“相当一致的”带宽-(光纤除外))
这是一个悬而未决的问题。不管协议是什么，
浏览 3提问于2012-07-19得票数 5
回答已采纳
Tom White的“Hadoop :权威指南”已经成为整个Hadoop生态系统的流行指南，并赢得了广泛调查和深入报道Hadoop各个方面的声誉。到目前为止，是否有人试图提供类似的火花？
浏览 0提问于2016-06-04得票数 1
回答已采纳
目前，我正在寻找支持大数据地球空间分析的大数据技术。我来到ESRI，发现它主要支持地球空间数据分析和可视化。然而，目前，除了需要许可的ArcGIS GeoAnalytics服务器之外，它们还没有对大数据地理空间分析的广泛支持。同时，我发现Google BigQuery是多么强大，它最近提供了对地理空间处理和分析的支持(为您使用的东西付费，每秒)。
我想知道的是:我应该选择哪个工具进行地理空间大数据处理、分析和可视化？哪个工具(ESRI和BigQuery)更适合用于什么？
我想在非常大的时间地理空间数据集上运行复杂的查询，最后在地图上可视化结果。
请注意，我刚刚开始了对地理空间大数据处理的研究，
浏览 5提问于2019-10-28得票数 0
回答已采纳
2回答
我是数据分析员。我的公司正在将所有的数据科学转移到云提供商(可能是Azure，GCP，AWS)。所有的数据科学编程工具，如木星笔记本，都将安装在云环境中(不会在本地安装Python，也不会在笔记本电脑上安装木星笔记本)。
在我的大部分工作中，我将直接从一个前提数据库中读取/吸收关系数据库表。而且，我的大部分数据分析工作不需要任何GPU实例来进行数据处理。有时，我也做一些简单的研究或实验数据分析编程，例如使用木星笔记本进行数据清理，而不需要使用GPU实例。
我想知道，在我的任务都不使用GPU的情况下，我的公司在他们的数据科学云计算平台上是否有可能进行这样的活动，而不用支付任何每次使用的费用或不必
浏览 2提问于2021-10-17得票数 0
回答已采纳
1回答
我有一张极光表，里面有五亿张唱片。我需要执行大数据分析，比如查找两个表之间的差异。到目前为止，我一直在使用文件系统上的HIVE来完成这项工作，但是现在我们已经将所有文件行插入到Aurora中。但仍然每月我需要做同样的事情，找到差异。
那么，对此，什么是最好的选择？
将Aurora数据作为文件导出回S3，然后对其运行单元查询(将所有Aurora行导出到S3需要多长时间)？
我可以在Aurora表上运行蜂箱查询吗？(我猜Aurora上的蜂箱不支持)
在Aurora上运行spark (性能如何)？
或者有什么更好的方法。
浏览 1提问于2018-10-09得票数 0
我看到AWS弹性MapReduce和AWS都使用集群结构，并且可以用于数据分析。它们的不同用例是什么？
支持与多种应用程序的客户端连接，包括商业智能(BI)、报告、数据和分析工具。
(Amazon )是一个托管集群平台，它简化了在AWS上运行大数据框架(如Apache和Apache )来处理和分析大量数据的过程。
浏览 1提问于2016-06-04得票数 15
回答已采纳
2回答
我正在学习JS，HTML和CSS，但我怀疑JS很擅长数据分析。那么，你们会推荐我学什么来开始我在数据科学的“事业”呢？处理数据的最佳编程语言是什么？我喜欢统计和编程，所以我觉得这会很有趣。
浏览 0提问于2017-06-21得票数 2
回答已采纳
关于Bigarray模块的文档有些含糊。它声明该模块中数组的目的是保存“大型数组”，但它并没有真正定义“大型数组”是什么意思。什么时候我应该在常规数组上使用Bigarray？是否存在一定数量的元素，超过这些元素我应该使用Bigarray？数以千计吗？几百万人？数十亿美元？
是什么让Bigarray更好地处理大数组呢？是什么让常规数组更好地处理...非大型数组？
浏览 4提问于2009-11-02得票数 8
回答已采纳
如何使用python pandas在本地系统Jupyter Notebook中上传两个大(5 5GB)的csv文件。请建议任何配置来处理用于数据分析的大型csv文件？
Local System Configuration:
OS: Windows 10
RAM: 16 GB
Processor: Intel-Core-i7
代码：
dpath = 'p_flg_tmp1.csv'
pdf = pd.read_csv(dpath, sep="|")
Error:
MemoryError: Unable to allocate array
或
pd.read_c
浏览 1提问于2020-01-24得票数 4
论坛，
我目前正在研究Azure Synapse作为迁移我们的on数据架构的一种选择。我对它提供的功能感到兴奋- SQL池、火花池和附带的笔记本。我知道Synapse可以在一个数据平台中发挥作用，我的数据科学家和数据分析者可以利用它的功能随意提供见解。然而，我的团队所做的大部分工作是创建数据产品。
我们目前有一个kubernetes集群，它有几个独立的API，在我们软件的更大的整体中执行数据科学操作。它们可以被认为是微型服务。K8S集群中的微服务(通常是python +一些python包+ FastAPI)通常通过使用ODBC连接器从SQL-server获取所需的数据。
现在我的问题是，Syn
浏览 3提问于2022-03-31得票数 1
回答已采纳
5回答
机器学习概述
、、
这可能不是要问的问题类型，而只是想知道其他人在大型企业环境中实现机器学习算法时需要考虑哪些因素。
我的目标之一是研究行业机器学习解决方案，可以根据我的公司的具体需要。我是我的团队中唯一有数学背景的人，而且以前读过一些机器学习算法的背景资料，我的任务是解释/比较这个行业的机器学习解决方案。从我在谷歌上收集到的信息来看，似乎：
机器学习和预测分析并不完全一样，所以当一个公司提供预测分析软件和机器学习软件时，有什么本质上的区别呢？(例如IBM预测分析相对于Skytree Server)
很多流行的术语经常被纠缠在一起，特别是关于大数据、Hadoop、机器学习等等。有人能澄清这些术语之间的区别吗？根据
浏览 8提问于2013-04-18得票数 2
如果您使用postgresql数据库专门用于数据科学部门和数据分析目的，那么是否有关于使用postgresql.conf文件优化服务器性能的提示？或者性能调优本身是不可知的，而且你会用它做什么并没有什么真正的区别，因为‘这都是关于提取数据的’？
这是一个相当模糊的问题，我没有找到答案(在许多关于数据科学的文章中)。
浏览 1提问于2018-10-12得票数 3
回答已采纳
3回答
是否有方法可以更改在消耗计划下运行的Azure函数的当前5分钟超时限制？
对于某些数据分析计算，5分钟是不够的。
使用webjob的另一种选择是不允许并行执行函数。
浏览 1提问于2017-02-21得票数 38
回答已采纳
我目前正在向我的MongoDB传输物联网数据，它运行在Docker Container(托管在亚马逊网络服务中)中。每天我都会得到几千个数据点。
我将使用这些收集的数据进行一些密集的数据分析和ML，这将每天运行。
那么，大数据通常就是这样存储的吗？行业标准和最佳实践是什么？
浏览 3提问于2021-03-12得票数 2
1回答
将Azure标准改为高级
、、、、
我有一个使用Standard的应用程序，并且希望更改为Premium，但是我需要了解DTU。每天在DTU中应用程序达到100%。
如果我需要购买更多或同等的高级DTU，还是用更少的DTU购买溢价就足够了吗？
例如，我有标准1600 DTU (S9)，并将更改为Premium1000DTU (P6)，会失去性能吗？
谢谢大家的关注。
浏览 0提问于2019-11-22得票数 1
我正在处理一个用例，在这个用例中，我将以csv/excel/pdf格式“按原样”将源数据加载到marklogic。稍后，我们需要使用marklogic中的一些工具进行数据分析/分析。在google上搜索，我在一些博客中看到一个名为“数据分析器”的工具。没有关于数据分析器工具的信息或GitHub项目。
如果任何人知道数据分析器或marklogic中的任何数据分析/分析工具，请给予帮助。
浏览 0提问于2018-06-05得票数 0
1回答
关于向用户提供数据的建议
、、、、
我是数据分析解决方案的初学者，并且正在从事一个将我们的数据解决方案迁移到Azure的项目，Azure datalake、数据工厂、databricks将成为管道。
但是很难选择正确的解决方案来可视化数据(用于创建仪表板的自助服务)并允许用户下载屏蔽报告(Excel，txt文件)以进行外部集成。你们有什么建议吗？
目前，我们正在使用业务对象企业(，BOE)和水晶报告，但我们希望找到一种新的、现代的方法来实现这一目标。
浏览 13提问于2022-04-01得票数 0
1回答
我在角-12工作。在我们的系统中，我们使用的是“谷歌翻译”API。
因此，当我们尝试批量转换字符串时，API将返回错误。
{
"error": {
"code": 400,
"message": "Too many text segments",
"errors": [
{
"message": "Too many text segments",
"domain": "global
浏览 1提问于2021-10-15得票数 1
回答已采纳
云服务器
ICP备案
对象存储
即时通信 IM
腾讯会议
腾讯云开发者
