<div dir="ltr">Hi Kevin,<div><br></div><div>So, do you have a single data request?  Or do you have multiple discrete data requests?  </div><div><br></div><div>I&#39;m asking because I have a number of discrete requests and I am getting some with no problem, but not others.  </div><div><br></div><div>Also, you mention the latency -- can you confirm that you are seeing latency on your end but no latency in the upstream queue?</div><div><br></div><div>Lastly, my problems did not seem too bad until 11/04-2340 (from MRMS OPS).  I have not looked closely at prior data for latency. </div></div><br><div class="gmail_quote"><div dir="ltr">On Tue, Nov 6, 2018 at 10:19 AM Kevin W. Thomas &lt;<a href="mailto:kwthomas@wizard.caps.ou.edu">kwthomas@wizard.caps.ou.edu</a>&gt; wrote:<br></div><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">Hi Karen...<br>
<br>
&gt;Hi Kevin,<br>
&gt;<br>
&gt;I&#39;m working with Jay on a similar problem.<br>
&gt;<br>
&gt;Could you tell me what your requests look like?  Are certain requests being<br>
&gt;dropped or ignored?<br>
<br>
I think the problem is that the data transfer is so slow, the LDM circular<br>
buffer on the NOAA end is wrapping around so the unsent data is overwritten.<br>
<br>
My guess is that it holds 30-35 minutes of data.<br>
<br>
I know LDM will log problems if the receiving end us too slow processing<br>
the data.<br>
<br>
&gt;I&#39;m asking because I have multiple requests to get MRMS data for our<br>
&gt;archive and web pages and some requests are fine while others are failing.<br>
&gt;<br>
&gt;Also, I can see that the data is being created and getting into the LDM<br>
&gt;queues on the NCO end, so there has to be something going on with the<br>
&gt;connections.<br>
<br>
Can you track down when problems started?  00Z Saturday was fine.  By 01Z,<br>
we were behind.<br>
<br>
        == kwthomas ==<br>
<br>
&gt;On Mon, Nov 5, 2018 at 3:53 PM Kevin W. Thomas &lt;<a href="mailto:kwthomas@wizard.caps.ou.edu" target="_blank">kwthomas@wizard.caps.ou.edu</a>=<br>
&gt;&gt;<br>
&gt;wrote:<br>
&gt;<br>
&gt;&gt;<br>
&gt;&gt; Jay...<br>
&gt;&gt;<br>
&gt;&gt; I&#39;ve noticed something strange.  We&#39;re not getting a lot of MRMS data<br>
&gt;&gt; files.  The ones that we get are timestamped over 30 minutes old.  LDM is<br>
&gt;&gt; showing zero complaints.  I&#39;ve restarted LDM, but I see no signs of<br>
&gt;&gt; improvement.<br>
&gt;&gt;<br>
&gt;&gt; The problems started between 00Z and 01Z Saturday night and has just<br>
&gt;&gt; gotten worse.<br>
&gt;&gt;<br>
&gt;&gt; It&#39;s always possible there is a problem at our end, however, none of my<br>
&gt;&gt; other LDM connections have problems with delayed data.<br>
&gt;&gt;<br>
&gt;&gt; Kevin W. Thomas<br>
&gt;&gt; Center for Analysis and Prediction of Storms<br>
&gt;&gt; University of Oklahoma<br>
&gt;&gt; Norman, Oklahoma<br>
&gt;&gt;<br>
&gt;&gt; On Mon, 5 Nov 2018, &#39;Bath, Kenneth&#39; via _NCEP.List.idp.mrms.users wrote:<br>
&gt;&gt;<br>
&gt;&gt; &gt; Jay,<br>
&gt;&gt; &gt;<br>
&gt;&gt; &gt; We saw the switch to College Park on Friday at 1909Z. However, the<br>
&gt;&gt; hourly dropped &amp; delayed products on LDM continued until about 0020Z on<br>
&gt;&gt; Saturday, Nov. 3. Since then, the dropped &amp; missing product have generall=<br>
&gt;y<br>
&gt;&gt; been around 0210Z and 1410Z daily, and also during the 03Z hour.<br>
&gt;&gt; &gt;<br>
&gt;&gt; &gt; Ken<br>
&gt;&gt; &gt;<br>
&gt;&gt; &gt; From: <a href="mailto:ncep.list.idp.mrms.users-bounces@lstsrv.ncep.noaa.gov" target="_blank">ncep.list.idp.mrms.users-bounces@lstsrv.ncep.noaa.gov</a> &lt;<br>
&gt;&gt; <a href="mailto:ncep.list.idp.mrms.users-bounces@lstsrv.ncep.noaa.gov" target="_blank">ncep.list.idp.mrms.users-bounces@lstsrv.ncep.noaa.gov</a>&gt; On Behalf Of Jay<br>
&gt;&gt; Iyer<br>
&gt;&gt; &gt; Sent: Friday, November 02, 2018 3:06 PM<br>
&gt;&gt; &gt; To: <a href="mailto:ncep.list.idp.mrms.users@noaa.gov" target="_blank">ncep.list.idp.mrms.users@noaa.gov</a><br>
&gt;&gt; &gt; Cc: <a href="mailto:idp-support@noaa.gov" target="_blank">idp-support@noaa.gov</a><br>
&gt;&gt; &gt; Subject: [Marketing] [Ncep.list.idp.mrms.users] MRMS Failover to Colleg=<br>
&gt;e<br>
&gt;&gt; Park - ~19Z 11/02/2018<br>
&gt;&gt; &gt;<br>
&gt;&gt; &gt; MRMS Customers,<br>
&gt;&gt; &gt;<br>
&gt;&gt; &gt; MRMS will be moved to the College Park data center shortly at/around 19=<br>
&gt;Z<br>
&gt;&gt; today. We expect only a minimal disruption of data associated with this<br>
&gt;&gt; failover.<br>
&gt;&gt; &gt;<br>
&gt;&gt; &gt; If you experience a longer loss of data or any other issues with the<br>
&gt;&gt; failover and upgrade, please let the IDP team know and we will work throu=<br>
&gt;gh<br>
&gt;&gt; any issues.<br>
&gt;&gt; &gt;<br>
&gt;&gt; &gt; Thanks much,<br>
&gt;&gt; &gt;<br>
&gt;&gt; &gt; -Jay Iyer<br>
&gt;&gt; &gt;<br>
&gt;&gt; &gt;<br>
&gt;&gt; &gt; --<br>
&gt;&gt; &gt; Jay Iyer CyberData Technologies, Inc.<br>
&gt;&gt; &gt; National Oceanic and Atmospheric Administration NWS | NCEP | NCO | IDSB<br>
&gt;&gt; &gt; U.S. Department of Commerce<br>
&gt;&gt; &gt; 5830 University Research Court<br>
&gt;&gt; &gt; College Park, Maryland 20740<br>
&gt;&gt; &gt; 301.683.1483&lt;tel:301.683.1483&gt; | <a href="mailto:jaysankar.iyer@noaa.gov" target="_blank">jaysankar.iyer@noaa.gov</a>&lt;mailto:<br>
&gt;&gt; <a href="mailto:jaysankar.iyer@noaa.gov" target="_blank">jaysankar.iyer@noaa.gov</a>&gt;<br>
&gt;&gt; &gt;<br>
&gt;&gt; _______________________________________________<br>
&gt;&gt; Ncep.list.idp.mrms.users mailing list<br>
&gt;&gt; <a href="mailto:Ncep.list.idp.mrms.users@lstsrv.ncep.noaa.gov" target="_blank">Ncep.list.idp.mrms.users@lstsrv.ncep.noaa.gov</a><br>
&gt;&gt; <a href="https://www.lstsrv.ncep.noaa.gov/mailman/listinfo/ncep.list.idp.mrms.user=" rel="noreferrer" target="_blank">https://www.lstsrv.ncep.noaa.gov/mailman/listinfo/ncep.list.idp.mrms.user=</a><br>
&gt;s<br>
&gt;&gt;<br>
&gt;<br>
&gt;<br>
&gt;--=20<br>
&gt;=E2=80=9CThe presence of those seeking the truth is infinitely to be prefer=<br>
&gt;red to<br>
&gt;the presence of those who think they=E2=80=99ve found it.&quot;<br>
&gt; -- Terry Prachett<br>
&gt;<br>
&gt;-------------------------------------------<br>
&gt;<a href="mailto:Karen.Cooper@noaa.gov" target="_blank">Karen.Cooper@noaa.gov</a><br>
&gt;<br>
&gt;Phone#:  405-325-6456<br>
&gt;Cell:   405-834-8559<br>
&gt;National Severe Storms Laboratory<br>
&gt;<br>
&gt;--000000000000fb75c6057a01254b<br>
&gt;Content-Type: text/html; charset=&quot;UTF-8&quot;<br>
&gt;Content-Transfer-Encoding: quoted-printable<br>
&gt;<br>
&gt;&lt;div dir=3D&quot;ltr&quot;&gt;Hi Kevin,&lt;div&gt;&lt;br&gt;&lt;/div&gt;&lt;div&gt;I&amp;#39;m working with Jay on a=<br>
&gt; similar problem.=C2=A0=C2=A0&lt;/div&gt;&lt;div&gt;&lt;br&gt;&lt;/div&gt;&lt;div&gt;Could you tell me wh=<br>
&gt;at your requests look like?=C2=A0 Are certain requests being dropped or ign=<br>
&gt;ored?=C2=A0&lt;/div&gt;&lt;div&gt;&lt;br&gt;&lt;/div&gt;&lt;div&gt;I&amp;#39;m asking because I have multiple=<br>
&gt; requests to get MRMS data for our archive and web pages and some requests =<br>
&gt;are fine while others are failing.=C2=A0=C2=A0&lt;/div&gt;&lt;div&gt;&lt;br&gt;&lt;/div&gt;&lt;div&gt;Als=<br>
&gt;o, I can see that the data is being created and getting into the LDM queues=<br>
&gt; on the NCO end, so there has to be something going on with the connections=<br>
&gt;.=C2=A0=C2=A0&lt;/div&gt;&lt;/div&gt;&lt;br&gt;&lt;div class=3D&quot;gmail_quote&quot;&gt;&lt;div dir=3D&quot;ltr&quot;&gt;On=<br>
&gt; Mon, Nov 5, 2018 at 3:53 PM Kevin W. Thomas &amp;lt;&lt;a href=3D&quot;mailto:<a href="mailto:kwthomas" target="_blank">kwthomas</a>=<br>
&gt;@<a href="http://wizard.caps.ou.edu" rel="noreferrer" target="_blank">wizard.caps.ou.edu</a>&quot;&gt;<a href="mailto:kwthomas@wizard.caps.ou.edu" target="_blank">kwthomas@wizard.caps.ou.edu</a>&lt;/a&gt;&amp;gt; wrote:&lt;br&gt;&lt;/div&gt;&lt;b=<br>
&gt;lockquote class=3D&quot;gmail_quote&quot; style=3D&quot;margin:0 0 0 .8ex;border-left:1px =<br>
&gt;#ccc solid;padding-left:1ex&quot;&gt;&lt;br&gt;<br>
&gt;Jay...&lt;br&gt;<br>
&gt;&lt;br&gt;<br>
&gt;I&amp;#39;ve noticed something strange.=C2=A0 We&amp;#39;re not getting a lot of MR=<br>
&gt;MS data&lt;br&gt;<br>
&gt;files.=C2=A0 The ones that we get are timestamped over 30 minutes old.=C2=<br>
&gt;=A0 LDM is&lt;br&gt;<br>
&gt;showing zero complaints.=C2=A0 I&amp;#39;ve restarted LDM, but I see no signs o=<br>
&gt;f&lt;br&gt;<br>
&gt;improvement.&lt;br&gt;<br>
&gt;&lt;br&gt;<br>
&gt;The problems started between 00Z and 01Z Saturday night and has just&lt;br&gt;<br>
&gt;gotten worse.&lt;br&gt;<br>
&gt;&lt;br&gt;<br>
&gt;It&amp;#39;s always possible there is a problem at our end, however, none of my=<br>
&gt;&lt;br&gt;<br>
&gt;other LDM connections have problems with delayed data.&lt;br&gt;<br>
&gt;&lt;br&gt;<br>
&gt;Kevin W. Thomas&lt;br&gt;<br>
&gt;Center for Analysis and Prediction of Storms&lt;br&gt;<br>
&gt;University of Oklahoma&lt;br&gt;<br>
&gt;Norman, Oklahoma&lt;br&gt;<br>
&gt;&lt;br&gt;<br>
&gt;On Mon, 5 Nov 2018, &amp;#39;Bath, Kenneth&amp;#39; via _NCEP.List.idp.mrms.users w=<br>
&gt;rote:&lt;br&gt;<br>
&gt;&lt;br&gt;<br>
&gt;&amp;gt; Jay,&lt;br&gt;<br>
&gt;&amp;gt;&lt;br&gt;<br>
&gt;&amp;gt; We saw the switch to College Park on Friday at 1909Z. However, the hou=<br>
&gt;rly dropped &amp;amp; delayed products on LDM continued until about 0020Z on Sa=<br>
&gt;turday, Nov. 3. Since then, the dropped &amp;amp; missing product have generall=<br>
&gt;y been around 0210Z and 1410Z daily, and also during the 03Z hour.&lt;br&gt;<br>
&gt;&amp;gt;&lt;br&gt;<br>
&gt;&amp;gt; Ken&lt;br&gt;<br>
&gt;&amp;gt;&lt;br&gt;<br>
&gt;&amp;gt; From: &lt;a href=3D&quot;mailto:<a href="mailto:ncep.list.idp.mrms.users-bounces@lstsrv.ncep.n" target="_blank">ncep.list.idp.mrms.users-bounces@lstsrv.ncep.n</a>=<br>
&gt;<a href="http://oaa.gov" rel="noreferrer" target="_blank">oaa.gov</a>&quot; target=3D&quot;_blank&quot;&gt;ncep.list.idp.mrms.users-bounces@lstsrv.ncep.noa=<br>
&gt;<a href="http://a.gov" rel="noreferrer" target="_blank">a.gov</a>&lt;/a&gt; &amp;lt;&lt;a href=3D&quot;mailto:<a href="mailto:ncep.list.idp.mrms.users-bounces@lstsrv.nce" target="_blank">ncep.list.idp.mrms.users-bounces@lstsrv.nce</a>=<br>
&gt;<a href="http://p.noaa.gov" rel="noreferrer" target="_blank">p.noaa.gov</a>&quot; target=3D&quot;_blank&quot;&gt;ncep.list.idp.mrms.users-bounces@lstsrv.ncep.=<br>
&gt;<a href="http://noaa.gov" rel="noreferrer" target="_blank">noaa.gov</a>&lt;/a&gt;&amp;gt; On Behalf Of Jay Iyer&lt;br&gt;<br>
&gt;&amp;gt; Sent: Friday, November 02, 2018 3:06 PM&lt;br&gt;<br>
&gt;&amp;gt; To: &lt;a href=3D&quot;mailto:<a href="mailto:ncep.list.idp.mrms.users@noaa.gov" target="_blank">ncep.list.idp.mrms.users@noaa.gov</a>&quot; target=3D&quot;_bl=<br>
&gt;ank&quot;&gt;<a href="mailto:ncep.list.idp.mrms.users@noaa.gov" target="_blank">ncep.list.idp.mrms.users@noaa.gov</a>&lt;/a&gt;&lt;br&gt;<br>
&gt;&amp;gt; Cc: &lt;a href=3D&quot;mailto:<a href="mailto:idp-support@noaa.gov" target="_blank">idp-support@noaa.gov</a>&quot; target=3D&quot;_blank&quot;&gt;idp-supp=<br>
&gt;<a href="mailto:ort@noaa.gov" target="_blank">ort@noaa.gov</a>&lt;/a&gt;&lt;br&gt;<br>
&gt;&amp;gt; Subject: [Marketing] [Ncep.list.idp.mrms.users] MRMS Failover to Colle=<br>
&gt;ge Park - ~19Z 11/02/2018&lt;br&gt;<br>
&gt;&amp;gt;&lt;br&gt;<br>
&gt;&amp;gt; MRMS Customers,&lt;br&gt;<br>
&gt;&amp;gt;&lt;br&gt;<br>
&gt;&amp;gt; MRMS will be moved to the College Park data center shortly at/around 1=<br>
&gt;9Z today. We expect only a minimal disruption of data associated with this =<br>
&gt;failover.&lt;br&gt;<br>
&gt;&amp;gt;&lt;br&gt;<br>
&gt;&amp;gt; If you experience a longer loss of data or any other issues with the f=<br>
&gt;ailover and upgrade, please let the IDP team know and we will work through =<br>
&gt;any issues.&lt;br&gt;<br>
&gt;&amp;gt;&lt;br&gt;<br>
&gt;&amp;gt; Thanks much,&lt;br&gt;<br>
&gt;&amp;gt;&lt;br&gt;<br>
&gt;&amp;gt; -Jay Iyer&lt;br&gt;<br>
&gt;&amp;gt;&lt;br&gt;<br>
&gt;&amp;gt;&lt;br&gt;<br>
&gt;&amp;gt; --&lt;br&gt;<br>
&gt;&amp;gt; Jay Iyer CyberData Technologies, Inc.&lt;br&gt;<br>
&gt;&amp;gt; National Oceanic and Atmospheric Administration NWS | NCEP | NCO | IDS=<br>
&gt;B&lt;br&gt;<br>
&gt;&amp;gt; U.S. Department of Commerce&lt;br&gt;<br>
&gt;&amp;gt; 5830 University Research Court&lt;br&gt;<br>
&gt;&amp;gt; College Park, Maryland 20740&lt;br&gt;<br>
&gt;&amp;gt; 301.683.1483&amp;lt;tel:301.683.1483&amp;gt; | &lt;a href=3D&quot;mailto:<a href="mailto:jaysankar.iye" target="_blank">jaysankar.iye</a>=<br>
&gt;<a href="mailto:r@noaa.gov" target="_blank">r@noaa.gov</a>&quot; target=3D&quot;_blank&quot;&gt;<a href="mailto:jaysankar.iyer@noaa.gov" target="_blank">jaysankar.iyer@noaa.gov</a>&lt;/a&gt;&amp;lt;mailto:&lt;a href=<br>
&gt;=3D&quot;mailto:<a href="mailto:jaysankar.iyer@noaa.gov" target="_blank">jaysankar.iyer@noaa.gov</a>&quot; target=3D&quot;_blank&quot;&gt;jaysankar.iyer@noaa.g=<br>
&gt;ov&lt;/a&gt;&amp;gt;&lt;br&gt;<br>
&gt;&amp;gt;&lt;br&gt;<br>
&gt;_______________________________________________&lt;br&gt;<br>
&gt;Ncep.list.idp.mrms.users mailing list&lt;br&gt;<br>
&gt;&lt;a href=3D&quot;mailto:<a href="mailto:Ncep.list.idp.mrms.users@lstsrv.ncep.noaa.gov" target="_blank">Ncep.list.idp.mrms.users@lstsrv.ncep.noaa.gov</a>&quot; target=3D&quot;=<br>
&gt;_blank&quot;&gt;<a href="mailto:Ncep.list.idp.mrms.users@lstsrv.ncep.noaa.gov" target="_blank">Ncep.list.idp.mrms.users@lstsrv.ncep.noaa.gov</a>&lt;/a&gt;&lt;br&gt;<br>
&gt;&lt;a href=3D&quot;<a href="https://www.lstsrv.ncep.noaa.gov/mailman/listinfo/ncep.list.idp.=" rel="noreferrer" target="_blank">https://www.lstsrv.ncep.noaa.gov/mailman/listinfo/ncep.list.idp.=</a><br>
&gt;mrms.users&quot; rel=3D&quot;noreferrer&quot; target=3D&quot;_blank&quot;&gt;<a href="https://www.lstsrv.ncep.no" rel="noreferrer" target="_blank">https://www.lstsrv.ncep.no</a>=<br>
&gt;<a href="http://aa.gov/mailman/listinfo/ncep.list.idp.mrms.users" rel="noreferrer" target="_blank">aa.gov/mailman/listinfo/ncep.list.idp.mrms.users</a>&lt;/a&gt;&lt;br&gt;<br>
&gt;&lt;/blockquote&gt;&lt;/div&gt;&lt;br clear=3D&quot;all&quot;&gt;&lt;div&gt;&lt;br&gt;&lt;/div&gt;-- &lt;br&gt;&lt;div dir=3D&quot;ltr&quot;=<br>
&gt; class=3D&quot;gmail_signature&quot; data-smartmail=3D&quot;gmail_signature&quot;&gt;&lt;div dir=3D&quot;l=<br>
&gt;tr&quot;&gt;&lt;div&gt;&lt;div dir=3D&quot;ltr&quot;&gt;&lt;div&gt;&lt;div dir=3D&quot;ltr&quot;&gt;&lt;div&gt;&lt;div dir=3D&quot;ltr&quot;&gt;&lt;div&gt;=<br>
&gt;&lt;div dir=3D&quot;ltr&quot;&gt;=E2=80=9CThe presence of those seeking the truth is infini=<br>
&gt;tely to be preferred to the presence of those who think they=E2=80=99ve fou=<br>
&gt;nd it.&amp;quot;&lt;br&gt;&lt;/div&gt;&lt;div&gt;=C2=A0-- Terry Prachett&lt;br&gt;&lt;/div&gt;&lt;div dir=3D&quot;ltr=<br>
&gt;&quot;&gt;&lt;br&gt;-------------------------------------------&lt;br&gt;&lt;a href=3D&quot;mailto:<a href="mailto:Kare" target="_blank">Kare</a>=<br>
&gt;<a href="mailto:n.Cooper@noaa.gov" target="_blank">n.Cooper@noaa.gov</a>&quot; target=3D&quot;_blank&quot;&gt;<a href="mailto:Karen.Cooper@noaa.gov" target="_blank">Karen.Cooper@noaa.gov</a>&lt;/a&gt;&lt;br&gt;&lt;br&gt;&lt;span=<br>
&gt; style=3D&quot;color:rgb(0,0,0)&quot;&gt;Phone#:=C2=A0 405-325-6456&lt;/span&gt;&lt;br&gt;Cell:=C2=<br>
&gt;=A0=C2=A0 405-834-8559&lt;br&gt;National Severe Storms Laboratory&lt;br&gt;&lt;br&gt;&lt;/div&gt;&lt;/=<br>
&gt;div&gt;&lt;/div&gt;&lt;/div&gt;&lt;/div&gt;&lt;/div&gt;&lt;/div&gt;&lt;/div&gt;&lt;/div&gt;&lt;/div&gt;<br>
&gt;<br>
&gt;--000000000000fb75c6057a01254b--<br>
&gt;<br>
</blockquote></div><br clear="all"><div><br></div>-- <br><div dir="ltr" class="gmail_signature" data-smartmail="gmail_signature"><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr"><div><div dir="ltr">“The presence of those seeking the truth is infinitely to be preferred to the presence of those who think they’ve found it.&quot;<br></div><div> -- Terry Prachett<br></div><div dir="ltr"><br>-------------------------------------------<br><a href="mailto:Karen.Cooper@noaa.gov" target="_blank">Karen.Cooper@noaa.gov</a><br><br><span style="color:rgb(0,0,0)">Phone#:  405-325-6456</span><br>Cell:   405-834-8559<br>National Severe Storms Laboratory<br><br></div></div></div></div></div></div></div></div></div></div>