地理空间距离计算优化_附近商家(转自美团技术博客)

admin2年前他山之石105

1 地理空间距离计算面临的挑战

打开美团app,不管是筛选团购还是筛选商家,默认的排序项都是“离我最近”或者“智能排序”(如下图所示)。


手机app示意

不管是“离我最近”还是“智能排序”,都涉及到计算用户位置与各个团购单子或者商家的距离(注:在智能排序中距离作为一个重要的参数参与排序打分)。以筛选商家为例,北京地区有5~6w个POI(本文将商家称之为POI),当用户进入商家页,请求北京全城+所有品类+离我最近/智能排序时,我们筛选服务需要计算一遍用户位置与北京全城所有POI的距离。


这种大量计算距离的场景十分消耗资源,从测试来看目前5w个点仅计算一遍距离就需要7ms,而到100w的时候就需要140多ms,随着数据的快速增长,筛选服务的性能将会非常堪忧。


如何优化距离的计算,进而提高计算速度、降低cpu使用率已经迫在眉睫。美团移动后台团购组在此方向上进行了些许探索,下文将分为4部分展开:1)地理空间距离计算原理;2)Lucene使用的距离计算公式;3)优化方案;4)实际应用。


2 地理空间距离计算原理

地理空间距离计算方法较多,目前我们使用的可以分为两类:1)球面模型,这种模型将地球看成一个标准球体,球面上两点之间的最短距离即大圆弧长,这种方法使用较广,在我们服务端被广泛使用;2)椭球模型,该模型最贴近真实地球,精度也最高,但计算较为复杂,目前客户端有在使用,但实际上我们的应用对精度的要求没有那么高。


下面着重介绍我们最常用的基于球面模型的地理空间距离计算公式,推导也只需要高中数学知识即可。


经纬度距离计算示意图

该模型将地球看成圆球,假设地球上有A(ja,wa),B(jb,wb)两点(注:ja和jb分别是A和B的经度,wa和wb分别是A和B的纬度),A和B两点的球面距离就是AB的弧长,AB弧长=R*角AOB(注:角AOB是A跟B的夹角,O是地球的球心,R是地球半径,约为6367000米)。如何求出角AOB呢?可以先求AOB的最大边AB的长度,再根据余弦定律可以求夹角。


如何求出AB长度呢?

1)根据经纬度,以及地球半径R,将A、B两点的经纬度坐标转换成球体三维坐标;


2)根据A、B两点的三维坐标求AB长度;


3)根据余弦定理求出角AOB;


4)AB弧长=R*角AOB.


3 Lucene使用的地理空间距离算法

目前美团团购app后台使用lucene来筛选团购单子和商家,lucene使用了spatial4j工具包来计算地理空间距离,而spatial4j提供了多种基于球面模型的地理空间距离的公式,其中一种就是上面我们推导的公式,称之为球面余弦公式。还有一种最常用的是Haversine公式,该公式是spatial4j计算距离的默认公式,本质上是球面余弦函数的一个变换,之前球面余弦公式中有cos(jb-ja)项,当系统的浮点运算精度不高时,在求算较近的两点间的距离时会有较大误差,Haversine方法进行了某种变换消除了cos(jb-ja)项,因此不存在短距离求算时对系统计算精度的过多顾虑的问题。


1)Haversine公式代码


public static double distHaversineRAD(double lat1, double lon1, double lat2, double lon2) {

double hsinX = Math.sin((lon1 - lon2) * 0.5);

double hsinY = Math.sin((lat1 - lat2) * 0.5);

double h = hsinY * hsinY +

(Math.cos(lat1) * Math.cos(lat2) * hsinX * hsinX);

return 2 * Math.atan2(Math.sqrt(h), Math.sqrt(1 - h)) * 6367000;

}

2)Haversine公式性能

目前北京地区在线服务有5w个POI,计算一遍距离需要7ms。现在数据增长特别快,未来北京地区POI数目增大到100w时,我们筛选服务仅计算距离这一项就需要消耗144多ms,性能十分堪忧。(注:本文测试环境的处理器为2.9GHz Intel Core i7,内存为8GB 1600 MHz DDR3,操作系统为OS X10.8.3,实验在单线程环境下运行)


POI数目 耗时(ms)

5w 7

10w 14

100w 144


4 优化方案

通过抓栈我们发现消耗cpu较多的线程很多都在执行距离公式中的三角函数例如atan2等。因此我们的优化方向很直接---消减甚至消除三角函数。基于此方向我们尝试了多种方法,下文将一一介绍。


4.1 坐标转换方法

1)基本思路

之前POI保存的是经纬度(lon,lat),我们的计算场景是计算用户位置与所有筛选出来的poi的距离,这里会涉及到大量三角函数计算。一种优化思路是POI数据不保存经纬度而保存球面模型下的三维坐标(x,y,z),映射方法如下:

x = Math.cos(lat) Math.cos(lon);

y = Math.cos(lat) Math.sin(lon);

z = Math.sin(lat);


那么当我们求夹角AOB时,只需要做一次点乘操作。比如求(lon1,lat1)和 (lon2,lat2)的夹角,只需要计算x1x2 + y1y2 + z1*z2, 这样避免了大量三角函数的计算。


在得到夹角之后,还需要执行arccos函数,将其转换成角度,AB弧长=角AOB*R(R是地球半径)。


此方法性能如下:


POI数目 耗时(ms)

5w 3

10w 8

100w 88

2)进一步优化

美团是本地生活服务,我们的业务场景是在一个城市范围内进行距离计算,因此夹角AOB往往会比较小,这个时候sinAOB约等于AOB,因此我们可以将 Math.acos(cosAOB)R 改为Math.sqrt(1 - cosAOBcosAOB)*R,从而完全避免使用三角函数,优化后性能如下。


POI数目 耗时(ms)

5w 0.2

10w 0.5

100w 4


4.2 简化距离计算公式方法

1)基本思路

我们的业务场景仅仅是在一个城市范围内进行距离计算,也就是说两个点之间的距离一般不会超过200多千米。由于范围小,可以认为经线和纬线是垂直的,如图所示,要求A(116.8,39,78)和B(116.9,39.68)两点的距离,我们可以先求出南北方向距离AM,然后求出东西方向距离BM,最后求矩形对角线距离,即sqrt(AMAM + BMBM)。


简化距离计算示意图

南北方向AM = R纬度差Math.PI/180.0;

东西方向BM = R经度差Cos<当地纬度数* Math.PI/180.0>

这种方式仅仅需要计算一次cos函数。


public static double distanceSimplify(double lat1, double lng1, double lat2, double lng2, double[] a) {

double dx = lng1 - lng2; // 经度差值

double dy = lat1 - lat2; // 纬度差值

double b = (lat1 + lat2) / 2.0; // 平均纬度

double Lx = toRadians(dx) * 6367000.0* Math.cos(toRadians(b)); // 东西距离

double Ly = 6367000.0 * toRadians(dy); // 南北距离

return Math.sqrt(Lx * Lx + Ly * Ly); // 用平面的矩形对角距离公式计算总距离

}

}

我们对这个方法的有效性和性能进行验证。

1.1)有效性验证

我们首先检验这种简化是否能满足我们应用的精度,如果精度较差将不能用于实际生产环境。


我们的方法叫distanceSimplify,lucene的方法叫distHaversineRAD。下表是在不同尺度下两个方法的相差情况。


测试点对 distanceSimplify(米) distHaversineRAD(米) 差别(米)

(39.941,116.45)(39.94, 116.451) 140.0285167225230 140.02851671981400 0.0

(39.96, 116.45)(39.94, 116.40) 4804.421262839180 4804.421153907680 0.0

(39.96, 116.45)(39.94, 117.30) 72444.81551882200 72444.54071519510 0.3

(39.26, 115.25)(41.04, 117.30) 263525.6167839860 263508.55921886700 17.1

可以看到两者在百米、千米尺度上几乎没有差别,在万米尺度上也仅有分米的差别,此外由于我们的业务是在一个城市范围内进行筛选排序,所以我们选择了北京左下角和右上角两点进行比较,两点相距有260多千米,两个方法差别17m。从精度上看该优化方法能满足我们应用需求。


1.2)性能验证


POI数目 耗时(ms)

5w 0.5

10w 1.1

100w 11

2)进一步优化

我们看到这里计算了一次cos这一三角函数,如果我们能消除此三角函数,那么将进一步提高计算效率。

如何消除cos三角函数呢?


采用多项式来拟合cos三角函数,这样不就可以将三角函数转换为加减乘除了嘛!


首先决定多项式的最高次数,次数为1和2显然都无法很好拟合cos函数,那么我们选择3先尝试吧,注:最高次数不是越多越好,次数越高会产生过拟合问题。


使用org.apache.commons.math3这一数学工具包来进行拟合。中国的纬度范围在10~60之间,即我们将此区间离散成Length份作为我们的训练集。


public static double[] trainPolyFit(int degree, int Length){

PolynomialCurveFitter polynomialCurveFitter = PolynomialCurveFitter.create(degree);

double minLat = 10.0; //中国最低纬度

double maxLat = 60.0; //中国最高纬度

double interv = (maxLat - minLat) / (double)Length;

List


public static double distanceSimplifyMore(double lat1, double lng1, double lat2, double lng2, double[] a) {

//1) 计算三个参数

double dx = lng1 - lng2; // 经度差值

double dy = lat1 - lat2; // 纬度差值

double b = (lat1 + lat2) / 2.0; // 平均纬度

//2) 计算东西方向距离和南北方向距离(单位:米),东西距离采用三阶多项式

double Lx = (a[3] * bbb + a[2]* bb +a[1] b + a[0] ) * toRadians(dx) * 6367000.0; // 东西距离

double Ly = 6367000.0 * toRadians(dy); // 南北距离

//3) 用平面的矩形对角距离公式计算总距离

return Math.sqrt(Lx * Lx + Ly * Ly);

}

我们对此优化方法进行有效性和性能验证。

2.1)有效性验证

我们的优化方法叫distanceSimplifyMore,lucene的方法叫distHaversineRAD,下表是在不同尺度下两个方法的相差情况。


测试点对 distanceSimplifyMore(米) distHaversineRAD(米) 差别(米)

(39.941,116.45)(39.94, 116.451) 140.0242769266660 140.02851671981400 0.0

(39.96, 116.45)(39.94, 116.40) 4804.113098854450 4804.421153907680 0.3

(39.96, 116.45)(39.94, 117.30) 72438.90919479560 72444.54071519510 5.6

(39.26, 115.25)(41.04, 117.30) 263516.676171262 263508.55921886700 8.1

可以看到在百米尺度上两者几乎未有差别,在千米尺度上仅有分米的区别,在更高尺度上如72千米仅有5.6m米别,在264千米也仅有8.1米区别,因此该优化方法的精度能满足我们的应用需求。


2.2)性能验证


POI数目 耗时(ms)

5w 0.1

10w 0.3

100w 4


5 实际应用

坐标转换方法和简化距离公式方法性能都非常高,相比lucene使用的Haversine算法大大提高了计算效率,然而坐标转换方法存在一些缺点:

a)坐标转换后的数据不能被直接用于空间索引。lucene可以直接对经纬度进行geohash空间索引,而通过空间转换变成三维数据后不能直接使用。我们的应用有附近范围筛选功能(例如附近5km的团购单子),通过geohash空间索引可以提高范围筛选的效率;

b)坐标转换方法增大内存开销。我们会将坐标写入倒排索引中,之前坐标是2列(经度和纬度),现在变成3列(x,y,z),在使用中我们往往会将这数据放入到cache中,因此会增大内存开销;

c)坐标转换方法增大建索引开销。此方法本质上是将计算从查询阶段放至到索引阶段,因此提高了建索引的开销。


基于上述原因我们在实际应用中采用简化距离公式方法(通过三次多项式来拟合cos三角函数),此方法在团购筛选和商家筛选的距离排序、智能排序中已经开始使用,与之前相比,筛选团购时北京全城美食品类距离排序响应时间从40ms下降为20ms。




6 参考资料

http://blog.csdn.net/liminlu0314/article/details/8553926

http://www.movable-type.co.uk/scripts/gis-faq-5.1.html




我也买找到原文链接 所以就不贴了


相关文章

linux测试硬盘速度(转)

在Linux下,一条简单的名利'dd'就可以帮我们到达这个目的。以下内容是关于如何使用‘dd’命令来测试USB硬盘的读写速度。1. 测试写速度:$ sudo mou...

KCPTUN参数解释(转)

为什么要使用KCP?高RTT的网络,TCP的三次握手、慢启动是非常影响体验的机制。150ms RTT,使用BBR拥塞控制且网络0丢包的情况下,慢启动到100Mbps至少需要2s,500Mbps至少5s...

如何用tun2socks更优雅的实现Linux全局代理(转)

tun2sockstun2socks分支有相当多,如下go-tun2socks(Golang版本)badvpn-tun2socks(C版本 内存占用小)安装badvpn安装很简单,官方有binary源...

两点之间距离 PHP、JS版(美团技术博客算法)

/**  * 计算两点之间距离 有少许可以忽略的误差  * 两点不能差距太远  * 适用于 附近商家 &...

Docker PHP安装扩展步骤详解(转)

前言此篇,主要是演示docker-php-source , docker-php-ext-install ,docker-php-enable-docker-configure 这四个命令到底是用来干...

nginx+php大文件上传参数配置(转)

大文件上传要注意几个环节1,上传文件需要花费较长上传时间和处理执行时间,需要设置nginx上传时间、延攻php执行超时时间2,大文件处理需要占用较大内存,需要增加php内存池,考虑到有多个文件上传处理...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。