<div dir="ltr">Another great &quot;add-on&quot; would be to have some sort of snapmirror feature build using the georeplication engine. Again, look at NetApp&#39;s implementation for inspiration.<div><br></div><div>An implementation could be like this: Be able to georeplicate a snapshot of a volume to a target and stop and remove the georepl connection when done. Doing that repeatedly to the same target, but from a next snapshot, will result in a snapshot based replication where the rsync based georeplication only replicates the delta. The result is that the target is the same as the snapshot and only the diff is synced. Ideal for failover scenarios where the target must be in a (crash) consistent state.</div>
<div><br></div><div>NetApp&#39;s implementation is different in that the snapshot states are preserved on the target. That would mean you must be able to georepl from a snapshot on the source volume to a newly created writeable snapshot on the target volume. Once the basic snapshot implementation is done, that would be rather easy to implement.</div>
<div><br></div><div>Bonus points if the target knows somehow that the replication is done, so it can do it&#39;s own thing based on that (like initiating a cascaded replication).</div><div class="gmail_extra"><br clear="all">
<div><div dir="ltr">Cheers,</div><div dir="ltr"><br></div><div dir="ltr">Fred<br><div><br></div><div><span style="background-color:rgb(249,249,249);color:rgb(85,85,85);font-family:sans-serif;font-size:12px;line-height:16.796875px">Seeing, contrary to popular wisdom, isn’t believing. It’s where belief stops, because it isn’t needed any more.</span><span style="color:rgb(85,85,85);font-family:sans-serif;font-size:12px;line-height:16.796875px;background-color:rgb(252,252,252)">. (</span><span style="background-color:rgb(252,252,252);color:rgb(85,85,85);font-family:sans-serif;font-size:12px;line-height:16.796875px">Terry Pratchett)</span><br>
</div></div></div>
<br><br><div class="gmail_quote">On Mon, Oct 28, 2013 at 7:38 PM, Paul Cuzner <span dir="ltr">&lt;<a href="mailto:pcuzner@redhat.com" target="_blank">pcuzner@redhat.com</a>&gt;</span> wrote:<br><blockquote class="gmail_quote" style="margin:0 0 0 .8ex;border-left:1px #ccc solid;padding-left:1ex">
<br>
Thanks for responding on this.<br>
<br>
As far as snapshot schedules are concerned, I&#39;d recommend that the definition of a schedule is separate from the snapshot and then the snapshot is associated with a schedule. This then enables<br>
- schedules to be centralised and used for other functions<br>
- schedules to be reused across volumes<br>
- schedules to be regarded as a &quot;policy&quot; and applied across multiple clusters, potentially by RHS-C - driving site standards and consistency.<br>
<br>
Cheers,<br>
<br>
PC<br>
<div class="im HOEnZb"><br>
----- Original Message -----<br>
&gt; From: &quot;Nagaprasad Sathyanarayana&quot; &lt;<a href="mailto:nsathyan@redhat.com">nsathyan@redhat.com</a>&gt;<br>
</div><div class="HOEnZb"><div class="h5">&gt; To: &quot;Fred van Zwieten&quot; &lt;<a href="mailto:fvzwieten@vxcompany.com">fvzwieten@vxcompany.com</a>&gt;, &quot;Paul Cuzner&quot; &lt;<a href="mailto:pcuzner@redhat.com">pcuzner@redhat.com</a>&gt;<br>

&gt; Cc: &quot;Shishir Gowda&quot; &lt;<a href="mailto:sgowda@redhat.com">sgowda@redhat.com</a>&gt;, &quot;Anand Subramanian&quot; &lt;<a href="mailto:ansubram@redhat.com">ansubram@redhat.com</a>&gt;<br>
&gt; Sent: Tuesday, 29 October, 2013 6:15:19 AM<br>
&gt; Subject: Re: [Gluster-devel] Fwd: Snapshot feature design review<br>
&gt;<br>
&gt; Hi Paul, Fred,<br>
&gt;<br>
&gt; Thank you for providing valuable inputs. We shall certainly go through these<br>
&gt; and update you further.<br>
&gt;<br>
&gt; Regards<br>
&gt; Nagaprasad<br>
&gt;<br>
&gt;<br>
&gt; &gt; On 28-Oct-2013, at 12:56 pm, Fred van Zwieten &lt;<a href="mailto:fvzwieten@vxcompany.com">fvzwieten@vxcompany.com</a>&gt;<br>
&gt; &gt; wrote:<br>
&gt; &gt;<br>
&gt; &gt; Hi,<br>
&gt; &gt;<br>
&gt; &gt; I have almost the same things as Paul mentioned. I also would like to see a<br>
&gt; &gt; snap retention feature. This could be build into the scheduling mechanism.<br>
&gt; &gt; Something like this:<br>
&gt; &gt;<br>
&gt; &gt; gluster snapshot create &lt; vol-name &gt; [-n snap-name][-d description][-s<br>
&gt; &gt; &lt;name&gt;:&lt;start-datetime&gt;:&lt;delta-datetime&gt;:&lt;keep&gt; ...]<br>
&gt; &gt;<br>
&gt; &gt; Where:<br>
&gt; &gt; &lt;name&gt; is the name of this schedule<br>
&gt; &gt; &lt;start-datetime&gt; is the timestamp for the first snapshot<br>
&gt; &gt; &lt;delta-datetime&gt; is the specification for the time between snapshots<br>
&gt; &gt; &lt;keep&gt; is the specification for the nr of snapshots for this schedule to<br>
&gt; &gt; keep<br>
&gt; &gt;<br>
&gt; &gt; Multiple schedules should be possible.<br>
&gt; &gt;<br>
&gt; &gt; Another thing, concerning the space management of snapshots. There should<br>
&gt; &gt; be an absolute max size limit on volume plus all of it&#39;s snap&#39;s. Look at<br>
&gt; &gt; NetApp&#39;s implementation for inspiration.<br>
&gt; &gt;<br>
&gt; &gt; Cheers,<br>
&gt; &gt;<br>
&gt; &gt; Fred<br>
&gt; &gt;<br>
&gt; &gt;<br>
&gt; &gt;&gt; On Mon, Oct 28, 2013 at 4:26 AM, Paul Cuzner &lt;<a href="mailto:pcuzner@redhat.com">pcuzner@redhat.com</a>&gt; wrote:<br>
&gt; &gt;&gt;<br>
&gt; &gt;&gt; Hi,<br>
&gt; &gt;&gt;<br>
&gt; &gt;&gt; I&#39;ve just reviewed the doc, and would like to clarify a couple of things<br>
&gt; &gt;&gt; regarding the proposed design.<br>
&gt; &gt;&gt;<br>
&gt; &gt;&gt;<br>
&gt; &gt;&gt; - I don&#39;t see a snapshot schedule type command to generate automated<br>
&gt; &gt;&gt; snapshots. What&#39;s the plan here? In a distributed environment the<br>
&gt; &gt;&gt; schedule for snapshots should be an attribute of the volume shouldn&#39;t it?<br>
&gt; &gt;&gt; If we designate a node in the cluster as &#39;master&#39; and use cron to manage<br>
&gt; &gt;&gt; the snaps - what happens when this node is down/rebuilt or loses its<br>
&gt; &gt;&gt; config? To me there seems to be a requirement for a gluster scheduler -<br>
&gt; &gt;&gt; to manage snapshots, and potentially future tasks like post dedupe, data<br>
&gt; &gt;&gt; integrity checking or maybe even geo-rep intervals etc.<br>
&gt; &gt;&gt;<br>
&gt; &gt;&gt; - snapshots are reliant upon dm-thinp, which means this version of lvm is<br>
&gt; &gt;&gt; a dependancy. Is there a clear path of migrating from classic lvm to<br>
&gt; &gt;&gt; dm-thinp based lv&#39;s - or is snapshots in 3.5 basically going to be a<br>
&gt; &gt;&gt; feature from this point forward i.e. no backwards compatibility.<br>
&gt; &gt;&gt;<br>
&gt; &gt;&gt; - when managing volumes holding snaps, visibility of capacity usage<br>
&gt; &gt;&gt; attributed to snaps is key - but I don&#39;t see a means of discerning the<br>
&gt; &gt;&gt; space usage by snap in the CLI breakdown.<br>
&gt; &gt;&gt;<br>
&gt; &gt;&gt; - on other systems, I&#39;ve had hung backup tasks (for days!) holding on to<br>
&gt; &gt;&gt; snaps causing space usage to climb against the primary volume. In this<br>
&gt; &gt;&gt; scenario I was able to see snap usage and what client had the snapshot<br>
&gt; &gt;&gt; open to troubleshoot. In this scenario, how will the glusterfs snapshot<br>
&gt; &gt;&gt; present itself and be managed.<br>
&gt; &gt;&gt;<br>
&gt; &gt;&gt; - How will the snapshot volume be perceived by Windows clients over SMB?<br>
&gt; &gt;&gt; Will these users be able to use the previous versions tab for example<br>
&gt; &gt;&gt; against the file properties in explorer?<br>
&gt; &gt;&gt;<br>
&gt; &gt;&gt; - a volume snapshot is based on snaps of the component bricks. 3.4 changed<br>
&gt; &gt;&gt; the way that bricks are used on a vol create to require a dir on a<br>
&gt; &gt;&gt; filesystem not the filesystem itself. This change enables users to create<br>
&gt; &gt;&gt; multiple volumes from the same physical brick by placing different dirs<br>
&gt; &gt;&gt; on the bricks root - which is not necessarily a good idea. Given the 1:1<br>
&gt; &gt;&gt; requirement of brick:volume, will this CLI behaviour be regressed to the<br>
&gt; &gt;&gt; way it was with 3.3.<br>
&gt; &gt;&gt;<br>
&gt; &gt;&gt; Happy to talk further about any of the above, if needed.<br>
&gt; &gt;&gt;<br>
&gt; &gt;&gt; Regards,<br>
&gt; &gt;&gt;<br>
&gt; &gt;&gt; Paul Cuzner<br>
&gt; &gt;&gt;<br>
&gt; &gt;&gt;<br>
&gt; &gt;&gt;<br>
&gt; &gt;&gt;<br>
&gt; &gt;&gt;<br>
&gt; &gt;&gt;<br>
&gt; &gt;&gt; ----- Original Message -----<br>
&gt; &gt;&gt; &gt; From: &quot;Nagaprasad Sathyanarayana&quot; &lt;<a href="mailto:nsathyan@redhat.com">nsathyan@redhat.com</a>&gt;<br>
&gt; &gt;&gt; &gt; To: <a href="mailto:gluster-devel@nongnu.org">gluster-devel@nongnu.org</a><br>
&gt; &gt;&gt; &gt; Sent: Friday, 18 October, 2013 5:22:31 AM<br>
&gt; &gt;&gt; &gt; Subject: [Gluster-devel] Fwd: Snapshot feature design review<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; Gluster devel included.<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; Thanks<br>
&gt; &gt;&gt; &gt; Naga<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; Begin forwarded message:<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; From: Nagaprasad Sathyanarayana &lt; <a href="mailto:nsathyan@redhat.com">nsathyan@redhat.com</a> &gt;<br>
&gt; &gt;&gt; &gt; Date: 17 October 2013 9:45:05 pm IST<br>
&gt; &gt;&gt; &gt; To: Shishir Gowda &lt; <a href="mailto:sgowda@redhat.com">sgowda@redhat.com</a> &gt;<br>
&gt; &gt;&gt; &gt; Cc: &quot; <a href="mailto:anands@redhat.com">anands@redhat.com</a> &quot; &lt; <a href="mailto:anands@redhat.com">anands@redhat.com</a> &gt;, &quot; <a href="mailto:rfortier@redhat.com">rfortier@redhat.com</a> &quot;<br>

&gt; &gt;&gt; &gt; &lt;<br>
&gt; &gt;&gt; &gt; <a href="mailto:rfortier@redhat.com">rfortier@redhat.com</a> &gt;, &quot; <a href="mailto:ssaha@redhat.com">ssaha@redhat.com</a> &quot; &lt; <a href="mailto:ssaha@redhat.com">ssaha@redhat.com</a> &gt;, &quot;<br>

&gt; &gt;&gt; &gt; <a href="mailto:aavati@redhat.com">aavati@redhat.com</a> &quot; &lt; <a href="mailto:aavati@redhat.com">aavati@redhat.com</a> &gt;, &quot; <a href="mailto:atumball@redhat.com">atumball@redhat.com</a> &quot; &lt;<br>

&gt; &gt;&gt; &gt; <a href="mailto:atumball@redhat.com">atumball@redhat.com</a> &gt;, &quot; <a href="mailto:vbellur@redhat.com">vbellur@redhat.com</a> &quot; &lt; <a href="mailto:vbellur@redhat.com">vbellur@redhat.com</a> &gt;, &quot;<br>

&gt; &gt;&gt; &gt; <a href="mailto:vraman@redhat.com">vraman@redhat.com</a> &quot; &lt; <a href="mailto:vraman@redhat.com">vraman@redhat.com</a> &gt;, &quot; <a href="mailto:lpabon@redhat.com">lpabon@redhat.com</a> &quot; &lt;<br>

&gt; &gt;&gt; &gt; <a href="mailto:lpabon@redhat.com">lpabon@redhat.com</a> &gt;, &quot; <a href="mailto:kkeithle@redhat.com">kkeithle@redhat.com</a> &quot; &lt; <a href="mailto:kkeithle@redhat.com">kkeithle@redhat.com</a> &gt;, &quot;<br>

&gt; &gt;&gt; &gt; <a href="mailto:jdarcy@redhat.com">jdarcy@redhat.com</a> &quot; &lt; <a href="mailto:jdarcy@redhat.com">jdarcy@redhat.com</a> &gt;, &quot; <a href="mailto:gluster-devel@redhat.com">gluster-devel@redhat.com</a> &quot;<br>

&gt; &gt;&gt; &gt; &lt;<br>
&gt; &gt;&gt; &gt; <a href="mailto:gluster-devel@redhat.com">gluster-devel@redhat.com</a> &gt;<br>
&gt; &gt;&gt; &gt; Subject: Re: Snapshot feature design review<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; + Gluster devel.<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; Hi all,<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; Kindly review the design and provide any comments by next week. We are<br>
&gt; &gt;&gt; &gt; targeting to have the review comments incorporated in the design and<br>
&gt; &gt;&gt; &gt; post<br>
&gt; &gt;&gt; &gt; the final design by 28th of this month (October). If you need any<br>
&gt; &gt;&gt; &gt; discussion<br>
&gt; &gt;&gt; &gt; on the design, please let us know by 21st or 22nd this month.<br>
&gt; &gt;&gt; &gt; If anybody not copied must be involved in design review, please feel<br>
&gt; &gt;&gt; &gt; free to<br>
&gt; &gt;&gt; &gt; forward the design document to them.<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; Thanks<br>
&gt; &gt;&gt; &gt; Naga<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; On 16-Oct-2013, at 7:03 pm, Shishir Gowda &lt; <a href="mailto:sgowda@redhat.com">sgowda@redhat.com</a> &gt; wrote:<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; Hi All,<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; The design document has been updated, and we have tried to address all<br>
&gt; &gt;&gt; &gt; the<br>
&gt; &gt;&gt; &gt; review comments and design issues to the best of our ability.<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; Please review the design and the document when possible.<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; The design document can be found @<br>
&gt; &gt;&gt; &gt; <a href="https://forge.gluster.org/snapshot/pages/Home" target="_blank">https://forge.gluster.org/snapshot/pages/Home</a><br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; Please feel free to critique/comment.<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; With regards,<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; Shishir<br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt; &gt; _______________________________________________<br>
&gt; &gt;&gt; &gt; Gluster-devel mailing list<br>
&gt; &gt;&gt; &gt; <a href="mailto:Gluster-devel@nongnu.org">Gluster-devel@nongnu.org</a><br>
&gt; &gt;&gt; &gt; <a href="https://lists.nongnu.org/mailman/listinfo/gluster-devel" target="_blank">https://lists.nongnu.org/mailman/listinfo/gluster-devel</a><br>
&gt; &gt;&gt; &gt;<br>
&gt; &gt;&gt;<br>
&gt; &gt;&gt; _______________________________________________<br>
&gt; &gt;&gt; Gluster-devel mailing list<br>
&gt; &gt;&gt; <a href="mailto:Gluster-devel@nongnu.org">Gluster-devel@nongnu.org</a><br>
&gt; &gt;&gt; <a href="https://lists.nongnu.org/mailman/listinfo/gluster-devel" target="_blank">https://lists.nongnu.org/mailman/listinfo/gluster-devel</a><br>
&gt; &gt;<br>
&gt;<br>
</div></div></blockquote></div><br></div></div>