Change the gps_points table to store latitude and longitude values to
authorTom Hughes <tom@compton.nu>
Tue, 18 Sep 2007 23:29:47 +0000 (23:29 +0000)
committerTom Hughes <tom@compton.nu>
Tue, 18 Sep 2007 23:29:47 +0000 (23:29 +0000)
seven decimal places to given a worse case precision of about 1cm.

app/models/trace.rb
app/models/tracepoint.rb
db/functions/quadtile.c
db/migrate/005_tile_tracepoints.rb
lib/osm.rb

index a2bebf1..4cac233 100644 (file)
@@ -204,10 +204,10 @@ class Trace < ActiveRecord::Base
         max_lon = Tracepoint.maximum('longitude', :conditions => ['gpx_id = ?', id])
         min_lon = Tracepoint.minimum('longitude', :conditions => ['gpx_id = ?', id])
 
-        max_lat = max_lat.to_f / 1000000
-        min_lat = min_lat.to_f / 1000000
-        max_lon = max_lon.to_f / 1000000
-        min_lon = min_lon.to_f / 1000000
+        max_lat = max_lat.to_f / 10000000
+        min_lat = min_lat.to_f / 10000000
+        max_lon = max_lon.to_f / 10000000
+        min_lon = min_lon.to_f / 10000000
 
         self.latitude = f_lat
         self.longitude = f_lon
index e48a274..e0fcfbd 100644 (file)
@@ -22,19 +22,19 @@ class Tracepoint < ActiveRecord::Base
   end
 
   def lat=(l)
-    self.latitude = (l * 1000000).round
+    self.latitude = (l * 10000000).round
   end
 
   def lng=(l)
-    self.longitude = (l * 1000000).round
+    self.longitude = (l * 10000000).round
   end
 
   def lat
-    return self.latitude.to_f / 1000000
+    return self.latitude.to_f / 10000000
   end
 
   def lon
-    return self.longitude.to_f / 1000000
+    return self.longitude.to_f / 10000000
   end
 
   def to_xml_node
index c0eb1ec..d601892 100644 (file)
@@ -27,5 +27,5 @@ long long tile_for_point(UDF_INIT *initid, UDF_ARGS *args, char *is_null, char *
    long long lat = *(long long *)args->args[0];
    long long lon = *(long long *)args->args[1];
 
-   return xy2tile(lon2x(lon / 1000000.0), lat2y(lat / 1000000.0));
+   return xy2tile(lon2x(lon / 10000000.0), lat2y(lat / 10000000.0));
 }
index 246f9b7..c0e6d8a 100644 (file)
@@ -4,7 +4,7 @@ class TileTracepoints < ActiveRecord::Migration
     add_index "gps_points", ["tile"], :name => "points_tile_idx"
     remove_index "gps_points", :name => "points_idx"
 
-    Tracepoint.update_all("tile = tile_for_point(latitude, longitude)")
+    Tracepoint.update_all("latitude = latitude * 10, longitude = longitude * 10, tile = tile_for_point(latitude * 10, longitude * 10)")
   end
 
   def self.down
index 300d9fa..45c506e 100644 (file)
@@ -414,10 +414,10 @@ module OSM
   # Return an SQL fragment to select a given area of the globe
   def self.sql_for_area(minlat, minlon, maxlat, maxlon, prefix = nil)
     tilesql = QuadTile.sql_for_area(minlat, minlon, maxlat, maxlon, prefix)
-    minlat = (minlat * 1000000).round
-    minlon = (minlon * 1000000).round
-    maxlat = (maxlat * 1000000).round
-    maxlon = (maxlon * 1000000).round
+    minlat = (minlat * 10000000).round
+    minlon = (minlon * 10000000).round
+    maxlat = (maxlat * 10000000).round
+    maxlon = (maxlon * 10000000).round
 
     return "#{tilesql} AND #{prefix}latitude BETWEEN #{minlat} AND #{maxlat} AND #{prefix}longitude BETWEEN #{minlon} AND #{maxlon}"
   end