<html xmlns:v="urn:schemas-microsoft-com:vml" xmlns:o="urn:schemas-microsoft-com:office:office" xmlns:w="urn:schemas-microsoft-com:office:word" xmlns:m="http://schemas.microsoft.com/office/2004/12/omml" xmlns="http://www.w3.org/TR/REC-html40"><head><meta http-equiv=Content-Type content="text/html; charset=utf-8"><meta name=Generator content="Microsoft Word 12 (filtered medium)"><style><!--
/* Font Definitions */
@font-face
        {font-family:"Cambria Math";
        panose-1:2 4 5 3 5 4 6 3 2 4;}
@font-face
        {font-family:Calibri;
        panose-1:2 15 5 2 2 2 4 3 2 4;}
@font-face
        {font-family:Tahoma;
        panose-1:2 11 6 4 3 5 4 4 2 4;}
/* Style Definitions */
p.MsoNormal, li.MsoNormal, div.MsoNormal
        {margin:0in;
        margin-bottom:.0001pt;
        font-size:12.0pt;
        font-family:"Times New Roman","serif";}
a:link, span.MsoHyperlink
        {mso-style-priority:99;
        color:blue;
        text-decoration:underline;}
a:visited, span.MsoHyperlinkFollowed
        {mso-style-priority:99;
        color:purple;
        text-decoration:underline;}
p.MsoAcetate, li.MsoAcetate, div.MsoAcetate
        {mso-style-priority:99;
        mso-style-link:"Balloon Text Char";
        margin:0in;
        margin-bottom:.0001pt;
        font-size:8.0pt;
        font-family:"Tahoma","sans-serif";}
span.EmailStyle17
        {mso-style-type:personal-reply;
        font-family:"Calibri","sans-serif";
        color:#1F497D;}
span.BalloonTextChar
        {mso-style-name:"Balloon Text Char";
        mso-style-priority:99;
        mso-style-link:"Balloon Text";
        font-family:"Tahoma","sans-serif";}
.MsoChpDefault
        {mso-style-type:export-only;}
@page WordSection1
        {size:8.5in 11.0in;
        margin:1.0in 1.0in 1.0in 1.0in;}
div.WordSection1
        {page:WordSection1;}
--></style><!--[if gte mso 9]><xml>
<o:shapedefaults v:ext="edit" spidmax="1026" />
</xml><![endif]--><!--[if gte mso 9]><xml>
<o:shapelayout v:ext="edit">
<o:idmap v:ext="edit" data="1" />
</o:shapelayout></xml><![endif]--></head><body lang=EN-US link=blue vlink=purple><div class=WordSection1><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>Good Morning guys.<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'><o:p>&nbsp;</o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>After taking the actions suggested by Jeff and confirmed by Amar, it looks like all of my maps are clean (thought I am still having problems, which may or may not be related).<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'><o:p>&nbsp;</o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>Here are the maps after all the corrections were done:<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'><o:p>&nbsp;</o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>loop_check 'cd /export/read-only; for brick_root in $(ls -d g*); do echo -n $HOSTNAME; getfattr -d -e hex -n trusted.glusterfs.dht $brick_root |  xargs echo | sed -e &quot;s/trusted.glusterfs.dht=0x0000000100000000/ /&quot; -e &quot;s/# file:/ /&quot; | awk &quot;{ print \$3,\$2,\$1 }&quot;; done' jc1letgfs{14,15,17,18} | tee ro-brick-attrs.out.041811<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'><o:p>&nbsp;</o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>sort -k 2,3 ro-brick-attrs.out.041811<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs17 000000000ccccccb g07<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs18 000000000ccccccb g07<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs17 0ccccccc19999997 g08<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs18 0ccccccc19999997 g08<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs17 1999999826666663 g09<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs18 1999999826666663 g09<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs17 266666643333332f g10<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs18 266666643333332f g10<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs17 333333303ffffffb g01<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs18 333333303ffffffb g01<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs17 3ffffffc4cccccc7 g02<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs18 3ffffffc4cccccc7 g02<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs14 4cccccc859999993 g01<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs15 4cccccc859999993 g01<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs14 599999946666665f g02<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs15 599999946666665f g02<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs14 666666607333332b g03<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs15 666666607333332b g03<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs14 7333332c7ffffff7 g04<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs15 7333332c7ffffff7 g04<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs14 7ffffff88cccccc3 g05<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs15 7ffffff88cccccc3 g05<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs14 8cccccc49999998f g06<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs15 8cccccc49999998f g06<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs14 99999990a666665b g07<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs15 99999990a666665b g07<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs14 a666665cb3333327 g08<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs15 a666665cb3333327 g08<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs14 b3333328bffffff3 g09<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs15 b3333328bffffff3 g09<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs14 bffffff4ccccccbf g10<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs15 bffffff4ccccccbf g10<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs17 ccccccc0d999998b g03<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs18 ccccccc0d999998b g03<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs17 d999998ce6666657 g04<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs18 d999998ce6666657 g04<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs17 e6666658f3333323 g05<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs18 e6666658f3333323 g05<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs17 f3333324ffffffff g06<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>jc1letgfs18 f3333324ffffffff g06<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'><o:p>&nbsp;</o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>How do these look to you? I don’t see a gap/hole, and since mirrored pairs are claiming (only) the same range for each mirrored brick, all looks ok to me.  Can  one / both of you just confirm that my layout now looks clean?<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'><o:p>&nbsp;</o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'>Thanks,<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'><o:p>&nbsp;</o:p></span></p><p class=MsoNormal><span style='font-size:8.0pt;font-family:"Arial","sans-serif";color:#003D79'>James Burnash, Unix Engineering<o:p></o:p></span></p><p class=MsoNormal><span style='font-size:11.0pt;font-family:"Calibri","sans-serif";color:#1F497D'><o:p>&nbsp;</o:p></span></p><div style='border:none;border-top:solid #B5C4DF 1.0pt;padding:3.0pt 0in 0in 0in'><p class=MsoNormal><b><span style='font-size:10.0pt;font-family:"Tahoma","sans-serif"'>From:</span></b><span style='font-size:10.0pt;font-family:"Tahoma","sans-serif"'> Amar Tumballi [mailto:amar@gluster.com] <br><b>Sent:</b> Thursday, March 31, 2011 2:34 AM<br><b>To:</b> Burnash, James<br><b>Cc:</b> Jeff Darcy; gluster-users@gluster.org<br><b>Subject:</b> Re: [Gluster-users] strange error hangs hangs any access to gluster mount<o:p></o:p></span></p></div><p class=MsoNormal><o:p>&nbsp;</o:p></p><p class=MsoNormal>Hi James,<o:p></o:p></p><div><p class=MsoNormal><o:p>&nbsp;</o:p></p></div><div><p class=MsoNormal>To fix this, you can go to <b>any one pair</b>&nbsp;backend and run below commands on the directories where the layout has issues:<o:p></o:p></p></div><div><p class=MsoNormal><o:p>&nbsp;</o:p></p></div><div><p class=MsoNormal>bash# setfattr -x trusted.glusterfs.dht &lt;directory&gt;<o:p></o:p></p></div><div><p class=MsoNormal><o:p>&nbsp;</o:p></p></div><div><p class=MsoNormal>[ pair backend means, in replica set's volumes ]<o:p></o:p></p></div><div><p class=MsoNormal><o:p>&nbsp;</o:p></p></div><div><p class=MsoNormal>and then from the client machine (ie, where you have mount point), run below commands,<o:p></o:p></p></div><div><p class=MsoNormal><o:p>&nbsp;</o:p></p></div><div><p class=MsoNormal>&nbsp;bash# echo 3 &gt; /proc/sys/vm/drop_caches<o:p></o:p></p></div><div><p class=MsoNormal>&nbsp;bash# stat &lt;directory&gt; # through the mount point.&nbsp;<o:p></o:p></p></div><div><p class=MsoNormal><o:p>&nbsp;</o:p></p></div><div><p class=MsoNormal>In this step, the layout will get fixed again automatically, which should solve this issue.<o:p></o:p></p></div><div><p class=MsoNormal><o:p>&nbsp;</o:p></p></div><div><p class=MsoNormal>Regards,<br>Amar<o:p></o:p></p></div><div><p class=MsoNormal style='margin-bottom:12.0pt'><o:p>&nbsp;</o:p></p><div><p class=MsoNormal>On Tue, Mar 29, 2011 at 12:45 AM, Burnash, James &lt;<a href="mailto:jburnash@knight.com">jburnash@knight.com</a>&gt; wrote:<o:p></o:p></p><p class=MsoNormal>Thanks Jeff. That at least gives me shot at figuring out some similar problems.<br><br>It's possible that in the course of bringing up the mirrors initially I futzed something up. I'll have to check the read-write servers as well.<o:p></o:p></p><div><p class=MsoNormal><br>James Burnash, Unix Engineering<br><br>-----Original Message-----<br>From: Jeff Darcy [mailto:<a href="mailto:jdarcy@redhat.com">jdarcy@redhat.com</a>]<o:p></o:p></p></div><div><p class=MsoNormal style='margin-bottom:12.0pt'>Sent: Monday, March 28, 2011 3:09 PM<br>To: Burnash, James<br>Cc: <a href="mailto:gluster-users@gluster.org">gluster-users@gluster.org</a><br>Subject: Re: [Gluster-users] strange error hangs hangs any access to gluster mount<o:p></o:p></p></div><div><div><p class=MsoNormal style='margin-bottom:12.0pt'>On 03/28/2011 02:29 PM, Burnash, James wrote:<br>&gt; Sorry - paste went awry.<br>&gt;<br>&gt; Updated here:<br>&gt;<br>&gt; <a href="http://pastebin.com/M74LAYej" target="_blank">http://pastebin.com/M74LAYej</a><br><br>OK, that definitely shows a problem. &nbsp;Here's the whole map of which<br>nodes are claiming which ranges:<br><br>00000000 0ccccccb: g07 on gfs17/gfs18<br>0ccccccc 19999997: g08 on gfs17/gfs18<br>19999998 26666663: g09 on gfs17/gfs18<br>26666664 3333332f: g10 on gfs17/gfs18<br>33333330 3ffffffb: g01 on gfs17/gfs18<br>3ffffffc 4cccccc7: g02 on gfs17/gfs18<br>4cccccc8 59999993: g01 on gfs14/gfs14<br>59999994 6666665f: g02 on gfs14/gfs14<br>66666660 7333332b: g03 on gfs14/gfs14<br>7333332c 7ffffff7: g04 on gfs14/gfs14<br>7ffffff8 8cccccc3: g05 on gfs14/gfs14<br>8cccccc4 9999998f: g06 on gfs14/gfs14<br>99999990 a666665b: g07 on gfs14/gfs14<br>a666665c b3333327: g08 on gfs14/gfs14<br>b3333328 b333332e: g09 on gfs14/gfs14<br>b333332f bffffff3: g09 on gfs14/gfs14<br>&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; *** AND g04 on gfs17/18<br>bffffff4 ccccccbf: g10 on gfs14/gfs14<br>&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; *** AND g04 on gfs17/18<br>ccccccc0 ccccccc7: g03 on gfs17/gfs18<br>&nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; &nbsp; *** AND g04 on gfs17/18<br>ccccccc8 d999998b: g03 on gfs17/gfs18<br>d999998c e6666657: *** GAP ***<br>e6666658 f3333323: g05 on gfs17/gfs18<br>f3333324 ffffffff: g06 on gfs17/gfs18<br><br>I know this all seems like numerology, but bear with me. &nbsp;Note that all<br>of the problems seem to involve g04 on gfs17/gfs18 claiming the wrong<br>range, and that the range it's claiming is almost exactly twice the size<br>of all the other ranges. &nbsp;In fact, it's the range it would have been<br>assigned if there had been ten nodes instead of twenty. &nbsp;For example, if<br>that filesystem had been restored to an earlier state on gfs17/gfs18,<br>and then self-healed in the wrong direction (self-mangled?) you would<br>get exactly this set of symptoms. &nbsp;I'm not saying that's what happened;<br>it's just a way to illustrate what these values mean and the<br>consequences of their being out of sync with each other.<br><br>So, why only one client? &nbsp;Since you're reporting values on the servers,<br>I'd guess it's because only that client has remounted. &nbsp;The others are<br>probably still operating from cached (and apparently correct) layout<br>information. &nbsp;This is a very precarious state, I'd have to say. &nbsp;You<br>*might* be able to fix this by fixing the xattr values on that one<br>filesystem, but I really can't recommend trying that without some input<br>from Gluster themselves.<br><br><o:p></o:p></p></div></div><div><p class=MsoNormal>DISCLAIMER:<br>This e-mail, and any attachments thereto, is intended only for use by the addressee(s) named herein and may contain legally privileged and/or confidential information. If you are not the intended recipient of this e-mail, you are hereby notified that any dissemination, distribution or copying of this e-mail, and any attachments thereto, is strictly prohibited. If you have received this in error, please immediately notify me and permanently delete the original and any copy of any e-mail and any printout thereof. E-mail transmission cannot be guaranteed to be secure or error-free. The sender therefore does not accept liability for any errors or omissions in the contents of this message which arise as a result of e-mail transmission.<br>NOTICE REGARDING PRIVACY AND CONFIDENTIALITY Knight Capital Group may, at its discretion, monitor and review the content of all e-mail communications. <a href="http://www.knight.com" target="_blank">http://www.knight.com</a><br>_______________________________________________<o:p></o:p></p></div><div><div><p class=MsoNormal>Gluster-users mailing list<br><a href="mailto:Gluster-users@gluster.org">Gluster-users@gluster.org</a><br><a href="http://gluster.org/cgi-bin/mailman/listinfo/gluster-users" target="_blank">http://gluster.org/cgi-bin/mailman/listinfo/gluster-users</a><o:p></o:p></p></div></div></div><p class=MsoNormal><o:p>&nbsp;</o:p></p></div></div></body></html>