扫二维码与项目经理沟通
我们在微信上24小时期待你的声音
解答本文疑问/技术咨询/运营咨询/技术建议/互联网交流
MySQL/Java服务端对emoji的支持与问题的解决方法,相信很多没有经验的人对此束手无策,为此本文总结了问题出现的原因和解决方法,通过这篇文章希望你能解决这个问题。
成都创新互联公司专注为客户提供全方位的互联网综合服务,包含不限于网站制作、网站建设、崇川网络推广、微信平台小程序开发、崇川网络营销、崇川企业策划、崇川品牌公关、搜索引擎seo、人物专访、企业宣传片、企业代运营等,从售前售中售后,我们都将竭诚为您服务,您的肯定,是我们最大的嘉奖;成都创新互联公司为所有大学生创业者提供崇川建站搭建服务,24小时服务热线:028-86922220,官方网址:www.cdcxhl.com
问题描述
将底层抓取的微博数据存入mysql,有些数据存入失败,查看Tomcat后,核心错误信息如下:
// 抛出字符集不支持的异常sql.SQLException: Incorrect string value: '\xF0\x9F\x98\x97\xF0\x9F...' for column 'CONTENT' at row 1
原因分析
MYSQL 5.5 之前, utf8 编码只支持1~3个字节,即BMP这部分的unicode编码区(基本就是0000~FFFF这一区)。 Emoji表情是4个字节,而mysql的utf8编码最多3个字节,所以导致数据插不进去 5.5之后,mysql加入utf8mb4编码,可支持4个字节,即一个字符最多能有4字符,因此utf8mb4编码可支持更多的字符集。 因此,如果项目要存储移动产品的用户文本,必须将DB字符集从UTF8/GBK等传统字符集升级到utf8mb4
【注】
utf8mb4兼容utf8,且比utf8能表示更多的字符。所以将DB字符集从UTF8或GBK等传统字符集升级到utf8mb4时不用担心字符的兼容性问题
解决方法
过滤特殊的表情符
content = content.replaceAll("[\\x{10000}-\\x{10FFFF}]", "");// 简单粗暴,不人性化
升级数据库字符集
1、utf8mb4支持的mysql版本为5.5.3+,若mysql低于该版本请先升级
2、修改database、table和column字符集
3、修改mysql配置文件my.cnf(windows为my.ini),my.cnf一般在etc/mysql/目录下,找到后在以下三部分里添加如下内容:
[client] default-character-set = utf8mb4
[mysql] default-character-set = utf8mb4
[mysqld]character-set-client-handshake = FALSEcharacter-set-server = utf8mb4collation-server = utf8mb4_unicode_ciinit_connect='SET NAMES utf8mb4'
4、重启mysql并查看字符集
在mysql命令行输入:
SHOW VARIABLES WHERE Variable_name LIKE 'character_set_%' OR Variable_name LIKE 'collation%';
重启之前的字符集
重启之后的字符集
【注】
必须保证以下字段为utf8mb4 character_set_client character_set_connection character_set_database character_set_results character_set_server
以上4步完成后,利用mysql客户端navicat在表中手动加入Emoji表情⛄,若能保存成功说明数据库已升级成功。
这些字符集配置的具体区别参考 深入Mysql字符集设置
5、检查服务器端db配置文件
// 配置spring时使用的链接如下:url="jdbc:mysql://localhost:3306/gzhou?allowMultiQueries=true&useUnicode=true&zeroDateTimeBehavior=convertToNull&transformedBitIsBoolean=true&autoReconnect=true&autoReconnectForPools=true&failOverReadOnly=false&maxReconnects=10"// 若characterEncoding=utf8mb4,插入数据时报错Caused by: java.sql.SQLException: Unsupported character encoding 'utf8mb4'// 去掉characterEncoding或characterEncoding=utf8
Emoji表情
android系统中,搜狗、百度输入法自带Emoji表情。
【注】
如果系统之间Emoji表情符号不兼容,只能看到方块;
看完上述内容,你们掌握mysql/Java服务端对emoji的支持与问题的解决方法的方法了吗?如果还想学到更多技能或想了解更多相关内容,欢迎关注创新互联行业资讯频道,感谢各位的阅读!
我们在微信上24小时期待你的声音
解答本文疑问/技术咨询/运营咨询/技术建议/互联网交流