背景：目前正在进行业务重构，需要对使用MySQL的业务库表进行重新设计，在迁移时，遇到了中文字符乱码问题（源库表的默认编码是LATIN1，新库表的默认编码为UTF8），故重新学习了下MySQL编码和解码相关知识，并整理了在遭遇乱码时的一些常用技巧。（本文发布于云+社区：https://cloud.tencent.com/developer/article/1370123）
hive是基于Hadoop的一个数据仓库工具，用来进行数据的ETL，这是一种可以存储、查询和分析存储在Hadoop中的大规模数据的机制。hive能将结构化的数据文件映射为一张数据库表，并提供SQL查询功能。Hive SQL是一种类SQL语言，与关系型数据库所支持的SQL语法存在微小的差异。本文对比MySQL和Hive所支持的SQL语法，发现相同的SQL语句在Hive和MySQL中输出结果的会有所不同。
版权声明：本文为博主原创文章，欢迎扩散，扩散请务必注明出处。 https://blog.csdn.net/robinson_0612/article/details/91175314
这篇文章发布于 2016.11.03 ，记录如何解决 mysql容器查询结果乱码的问题。
查看数据库编码： show create database db_name; 查看表编码： show create table tbl_name; 查看字段编码： show full columns from tbl_name; show full fields from tbl_name;
MySQL出现乱码的原因有很多，一般与character_set参数有关。我们先来看看有哪些参数：
在日常处理客户的问题中，会遇到非常多的客户反馈字符乱码的问题，遇到这类型的问题，我们要怎么去处理呢？又该怎么去引导用户去解决呢？
这个系列的文章是根据《MySQL是怎样运行的：从根儿上理解MySQL》这本书的个人笔记总结专栏，这里十分推荐大家精读一下这本书，也是目前市面上个人所知的讲述Mysql原理的为数不多的好书之一，好了废话不多说我们下面进入正题。
应开发同事的要求,部署了Gitlab+Gerrit+Jenkins的持续集成环境. 但是发现了一个问题,Gerrit登陆后有中文乱码出现. 具体情况如下: (1)Git代码中的中文乱码处理: 为妥善解决中文编码的问题，对所有git repository做如下约定： 所有文本文件都必须存储成utf8编码 全局配置如下： git config --global core.quotepath false git config --global i18n.logoutputencoding utf8 git con
| 导语 本文主要介绍了业务中常见的ASCII、GB2312、GBK、GB18030、UTF8、ANSI、Latin1中文编码。如果你在业务中也曾经被乱码搞晕过，不妨我们一起探究一下。 PS：文末有今天儿童节粉丝福利活动哦！ 最近我的业务中涉及到了包含中文文本的内容解析。业务场景是用户上传一个包含中文的文本文件，我们需要根据约定好的字段格式解析该文本，并将内容导入到数据库中。但用户所传上来的文件中文编码经常会不一样，于是我们的数据库中经常会有乱码出现。为了解决该问题，就有了这篇文章…… 1、字符编码要做
前言 什么是字符编码，为什么会乱码？ https://zh.wikipedia.org/wiki/%E5%AD%97%E7%AC%A6%E7%BC%96%E7%A0%81 mysql database字符编码默认是latin1，并不支持中文 本篇文章解决办法适用范围？ Linux下的mysql 5.6+版本 其他版本未尝试过，不敢保证可行 解决步骤 查看mysql目前字符编码 #登录mysql mysql -u rrot -p #在mysql中查询字符编码设置 mysql> show variables
Q:什么是存储引擎？ A：比如一个视频文件可以转成mp4,avi,wmv,而存储进磁盘中也会存在不同类型的文件系统中如linux中的ext3,ext4,xfs等.(直观区别就是占用系统的空间大小与清晰程度可能不一样);
百度的貌似不好理解啊，让我说啊，数据库是存储数据的地方，超哥，你这不是废话么？这位同学，你你你你你说的对，哈哈，存数据的地方是存在哪里呢，存在硬盘上，为什么不是存在内存里面，因为内存无法永久保存。之前我们存数据都是使用的文件，在一个word文档里面写一些羞羞的网址，然后保存，就存储到硬盘上了。有同学就会说了，超哥，我这通过文件不是也将数据保存上了吗？是的，没毛病，但是你想，通过文件来操作数据，效率是不是很低，首先打开关闭就比较慢，其次是我们操作起来也比较麻烦，对不对，如果我想记录一条关于我个人信息的数据，我使用文档来存，是不是很不友好，并且我们要查数据的时候，看图1：图1是一个word里面记录的信息，如果我想查询出所有人的名字，这个操作是不是就很难搞定了，来来来，配合起来~~，你应该说是的，那我就接着说，有同学可能就会说了，老师我用excel啊，看图2，一列就搞定了，没毛病，但是你想打开操作excel效率低不低。并且通过你自己写的程序来操作这些文件是不是很麻烦，就你们学的open函数。其实效率低的原因是因为我们知道文件都是保存在硬盘上的，硬盘的效率本身就低，所以没办法。
关于编码问题前面一共整理4篇博客，这是终篇。我使用MySQL时经常会遇到乱码问题，尤其是涉及到中文和emoji表情符号时，然而当我查询资料时发现大多数资料几乎雷同，寥寥几句仅贴了几个参数的定义，并没有案例来详细说明，因此我利用几个周末时间整理出这个编码系列博客，希望能对和我同样深受编码困扰的人提供些帮助，当然能力有限，里面很多观点是我根据各种资料的推测，并没有在相关文档中找到确切的描述佐证，可能有理解偏颇之处。
这里还有一个mysql字符乱码的例子，部署redmine过程中，mysql数据库使用了默认的字符集，导致含有中文内容为乱码。
以下配置项是Linux系统的本地化（localization）设置，用于控制系统在不同方面如何呈现和处理数据。下面是每个配置项的解释：
本文将详细介绍MySQL乱码的成因和具体的解决方案。在阅读本文之前，强烈建议对字符集编码概念还比较模糊的同学 阅读下博主之前对相关概念的一篇科普：十分钟搞清字符集和字符编码 MySQL出现乱码的原因
最近在完成一个线上日志修复工作的过程中遇到了一个意想不到的慢查询。当时使用的SQL以及表结构其实都很简单，而且在关键的字段上也有索引，但是MySQL的执行计划就是跑出来了Range checked for each record (index map: 0x1)。如下为问题中的表结构定义和执行计划（删减了其他字段，留下了关键的部分）:
相信大家通过前几篇文章，已经了解了 MySQL 字符集使用相关注意事项。那么数据乱码问题在这儿显得就非常简单了，或许说可能不会出现这样的问题。
mysql 创建数据库时指定编码很重要，很多开发者都使用了默认编码，乱码问题可是防不胜防。制定数据库的编码可以很大程度上避免倒入导出带来的乱码问题。 网页数据一般采用UTF8编码，而数据库默认为latin 。我们可以通过修改数据库默认编码方式为UTF8来减少数据库创建时的设置，也能最大限度的避免因粗心造成的乱码问题。 我们遵循的标准是，数据库，表，字段和页面或文本的编码要统一起来 我们可以通过命令查看数据库当前编码：mysql> SHOW VARIABLES LIKE 'character%'; 发现很多对应的都是 latin1，我们的目标就是在下次使用此命令时latin1能被UTF8取代。 第一阶段： mysql设置编码命令
character-set-server/default-character-set：服务器字符集，默认情况下所采用的。 character-set-database：数据库字符集。 character-set-table：数据库表字符集。 优先级依次增加。所以一般情况下只需要设置character-set-server，而在创建数据库和表时不特别指定字符集，这样统一采用character-set-server字符集。 character-set-client：客户端的字符集。客户端默认字符集。当客户端向服务器发送请求时，请求以该字符集进行编码。 character-set-results：结果字符集。服务器向客户端返回结果或者信息时，结果以该字符集进行编码。 在客户端，如果没有定义character-set-results，则采用character-set-client字符集作为默认的字符集。所以只需要设置character-set-client字符集。
上一篇呢，从理论上介绍了MYSQL字符集和校对规则是什么以及如何正确的使用字符集；关于第一部分的内容可参考：深入理解MySQL字符集及校对规则(一)
在使用MySQL时要注意6个需要编码的地方：系统的编码、客户端、服务端、库、表、列。字符集编码不仅影响数据存储,还影响client程序和数据库之间的交互.在mysql中输入命令show session variables like '%char%'能够看到例如以下一些字符集（下面是以win10为例，生产中多数时linux，在linux里面除了latin1之外都是utf8的字符集）:
tar -zxvf apache-tomcat-7.0.82.tar.gz -C /export/install/
select查询优化一直是日常开发和数据库运维绕不开的一道坎，SQL的查询速度决定了页面的加载速度，进一步决定了客户浏览体验。
大家在使用wampserver中的mysql数据库时，插入中文会显示“？？”，很多小伙伴都不知道给如何做，明明在创建数据库和表时已经设置字符为UTF-8了，可插入结果还是乱码。下面我来告诉大家一下原因。
Python3自诩解决了编码问题，但还是有一系列的坑。本文就记录下前几天遇到的python3编码问题。mysql编码问题附带介绍。 python3 json串的编码 针对于包含中文的字典，如果想要正常显示中文，在dumps时，需配置参数ensure_ascii=False。举例： a={"name":"中国"} json.dumps(a) '{"name": "\\u4e2d\\u56fd"}' json.dumps(a,ensure_ascii=False) '{"name": "中国"}' 针对于包含特
进入mysql官网https://dev.mysql.com/downloads，在官网下载的是zip压缩包。
近期我们遇到了一位客户提出的问题：MySQL 建表时，数据库表定义的字符集是 latin1，里面的数据是以 GBK 编码的方式写入的。当 Flink 的 JDBC Connector 在读取此维表时，输出数据的中文出现了乱码现象，如下图：
字符(Character)是各种文字和符号的总称，包括各国家文字、标点符号、图形符号、数字等。 字符集(Character set)是多个字符的集合，字符集种类较多，每个字符集包含的字符个数不同，常见字符集名称：ASCII字符集、GB2312字符集、BIG5字符集、 GB18030字符集、Unicode字符集等。计算机要准确的处理各种字符集文字，需要进行字符编码，以便计算机能够识别和存储各种文字。 字符编码（Character encoding）是把字符集中的某个字符编码为指定字符集中字符，以便文本在计算机中存储和通过通信网络的传递。常见的例子包括将拉丁字母表编码成ASCII，ASCII将字母、数字和其它符号编号，并用7比特的二进制来表示。 字符序(collation)是指同一个字符集内字符之间的比较规则。只有确定字符序后，才能在一个字符集上定义什么是等价的字符，以及字符之间的大小关系。一个字符可以包含多种字符序。MySQL字符序命名规则是：以字符序对应的字符集名称开头，以国家名居中(或以general居中)，以ci、cs、或bin结尾。以ci结尾的字符序表示大小写不敏感，以cs结尾的字符序表示大小写敏感，以bin结尾的字符序表示按二进制编码值比较。
前提 ： 1数据库和表都是utf8_general_ci格式 2程序代码也是utf-8格式，且使用了mysql_query("set names utf-8"); 及 htmlentities ENT_QUOTES,'utf-8'
我们看到，尽管使用数据库时我们能够正常的添加和显示中文，但是在使用程序连接数据库时并不能够正常显示中文，为此我们需要修改MySQL的默认编码，编辑my.ini（MySQL配置文件）文件对编码进行修改 设置MySQL的默认字符集为utf8，找到客户端配置[client]在下面添加。 default-character-set=utf8 找到服务器配置[mysqld]在下面添加 default-character-set=utf8 设定MySQL数据库以utf8编码运行，连接MySQL数据库时使用utf8编码 停止和重新启动MySQL net stop mysql net start mysql
#字符编码:就是人类使用的英文字母、汉字、特殊符号等信息，通过转换规则，将其转换为计算机可以识别的二进制数字的一种编码方式
目录 1、一个建表语句引出的问题 2、查看当前电脑使用的字符集 3、你发现这个问题了吗？ 4、你不熟悉的几个命令 1）连接器connection的作用与工作流程(文字叙述) ① 连接器的作用 ② 连接器的工作流程 2）图示法讲解connection的作用与工作流程 ① 第一种方式 ② 第二种方式 5、上述两种图示法的实际操作演示 1）先了解如下几个代码 2）代码演示过程如下 6、产生乱码的两个原因 1）编码和解码不一致导致的乱码 2）传输过程中，丢失字节导致的乱码 7、对实际情况的分析(什么都不设置，系统默认是如何呢？) 1）MySQL系统参数如下 2）set names gbk的含义
mysql是我们项目中非常常用的数据型数据库。但是因为我们需要在数据库保存中文字符，所以经常遇到数据库乱码情况。下面就来介绍一下如何彻底解决数据库中文乱码情况。
无论是使用何种语言进行编程，碰到的第一个问题莫过于乱码的问题，而使用数据库的时候，也大致差不多。
“数据库的数据变成乱码了！”---想必不少 DBA 们对类似的“呼救”不算太陌生。一般来说这类问题都是字符集的设置有关，同时在 MySQL 中也存在“错入错出”的这种“神话”：登录到数据库看的时候是乱码，代码/WEB 上显示的是正常的。
创建数据表时我们经验会添加一些中文注释到表里面方便识别，最近在测试Hive的时候，发现添在Hive创建表时添加COMMENT时的中文注释就会出现乱码，如下：
下午使用pt-osc工具对线上表进行变更的时候，发现了一个问题，在对latin1字符集进行变更的时候，变更完毕之后的表的中文注释都变成了'？'，无法正常显示了。于是在测试环境上进行了实验。
有这样的一个问题mysql查询使用mysql中left(right)join筛选条件在on与where查询出的数据是否有差异。 可能只看着两个关键字看不出任何的问题。那我们使用实际的例子来说到底有没有差异。 例如存在两张表结构 表结构1 Sql代码 drop table if EXISTS A; CREATE TABLE A ( ID int(1) NOT NULL, PRIMARY KEY (ID) ) ENGINE=MyISAM DEFAULT CHARSET=l
这个值后面对应的utf8_unicode_ci是什么意思呢？面试的时候用这个题目考一考DBA，应该可以难倒一大部分人。
昨天在CentOS 7上遇到MySQL 5.6遇到乱码问题，特此总结一下： 一、登录MySQL，用SHOW VARIABLES LIKE ‘character%’;查看下字符集，显示如下：
UnicodeDecodeError: 'ascii' codec can't decode byte 0xe9 in position 0: ordinal not in range(128)
Incorrect string value: '\xE6\x88\x91' for column 'name' at row 1
在HIVE中建表的时候，有时候难免要表中文注释，然而如果不经过配置，会导致desc某个表名的时候，直接以？的方式返回。
领取专属 10元无门槛券
手把手带您无忧上云
云服务器
ICP备案
对象存储
即时通信 IM
实时音视频
